开放AI智能体 要严防“李鬼”

　　炒股就看金麒麟分析师研报，权威，专业，及时，全面，助您挖掘潜力主题机会！

　　（来源：证券时报）

　　冯海宁

　　近期，有网友发现，不少AI大模型平台都开放了网友自制的AI智能体的体验，其中就有不少打着官方旗号的智能体。但这些带有官方Logo、语气专业的AI客服给出的回复乃至建议却并不那么靠谱。

　　所谓AI智能体，是一种通过使用可用工具设计工作流来自主执行任务的系统。比如之前引发关注的“龙虾”，就是智能体的典型代表。AI大模型平台纷纷开放零门槛创建工具，既是为了抢占市场，也是在激发公众参与自制AI智能体的热情。然而，不少打着官方旗号的智能体，实际上是冒充官方机构的“李鬼”。比如南方电网公司发布视频，反映在大模型上竟搜出了近70个“南方电网”智能体，却没有一个是南方电网发布的。一个“李逵”对应70个“李鬼”，这种假冒很猖狂。

　　当“李逵”尚未亮相平台，众多“李鬼”无疑对公众造成了误导。如网友问南方电网内训师智能体，“南方电网有没有内推渠道，它让我联系某个私人手机号，顺着号码一查发现竟是一个中介机构”。即中介机构扮演南方电网可能谋取不当利益。

　　这至少说明了两个问题：其一，相关AI大模型平台对于冒充某些企事业单位的智能体，没有尽到审核把关义务，纵容某些个人或者机构冒充官方机构，带来了安全隐患。同时，这类平台有可能也没有尽到提醒用户注意辨别真假防止被骗的义务。其二，很多企事业单位思想观念滞后、应对滞后。很多机构的思维仍停留在传统互联网时代，对大模型平台及其智能体认识不够，没有及时入驻就给了“李鬼”冒充的机会。即便发现“李鬼”冒充，如果仅是辟谣了之，所起的作用有限。

　　所以，AI大模型平台开放智能体值得肯定，但要警惕“李鬼”泛滥，侵害用户合法权益，损害平台形象。因为“李鬼”并不是无缘无故冒出来的，有的可能出于娱乐目的，有的出于“抢注”目的，有的念的是“生意经”，还有的可能涉嫌诈骗。

　　大数据平台要履行法律责任，当好“门卫”。根据《互联网信息服务深度合成管理规定》，平台应当落实信息安全主体责任，建立健全信息发布审核等管理制度。《生成式人工智能服务管理暂行办法》要求提供者发现违法内容的要采取措施。

　　无论是大模型平台还是自制AI智能体的用户，都不能游离在法治之外。平台唯有守护好这方“净土”，才能塑造好形象、吸引更多用户；而用户唯有遵守道德和法治红线，才能避免不良后果。尽管技术革命日新月异，但相关法律并未严重滞后。

　　从企事业单位角度来说，也要及时更新思维，善于抢占新阵地和使用新工具。越早入驻AI大模型平台，被假冒的风险就越低；反之，将占位机会让给其他用户，不仅错失新的机遇，而且被假冒也面临麻烦。另外，发现被假冒，企事业单位要维权。

　　面对冒牌AI智能体层出不穷乱象丛生的局面，有关部门要及时督促大模型平台履职尽责，以捍卫人工智能时代规则红线，促进健康发展。有学者认为，仿冒本质不仅是侵权，更是对公共常识的混淆。未来提供创建工具的平台理应承担起前置审核义务。

　　本版专栏文章仅代表作者个人观点