谷歌安全创始人:放缓AI发展 AI对儿童伤害远超社交媒体

　　9月23日消息，据路透社报道，谷歌信任与安全团队创始人汤姆·西格尔本周公开呼吁放缓AI发展，警告科技行业正在重蹈社交媒体时代的覆辙，可能对儿童造成更大伤害。目前社交媒体公司正因伤害年轻用户面临巨额赔偿和数千起诉讼，世界各国政府也在加紧限制未成年人访问社交平台。

　　西格尔曾担任谷歌信任与安全副总裁，他对路透社表示，就AI正在对儿童造成的影响而言，目前处境非常糟糕，认为行业能够在没有外部帮助的情况下自行解决问题是不现实的。此前Meta内部文件曾曝光其聊天机器人可与儿童进行情色对话，引发国会调查，但监管措施仍未跟上AI飞速发展的步伐。

　　西格尔的担忧反映了部分科技人士和学术研究者日益加深的恐惧：AI对儿童构成的威胁比社交媒体更为深层，而整个行业正竞相为聊天机器人添加越来越先进的功能，数百万年轻人已在日常使用这些机器人。他指出，AI公司向儿童推出各种功能却未建立足够安全防护措施，面临从自杀风险到"认知卸载"等一系列严重伤害。

　　本周二，西格尔宣布加入儿童网络安全倡导组织Common Sense Media，出任今年5月新成立的青少年AI安全研究所首任执行主任。该研究所致力于评估儿童使用AI情况，Anthropic及OpenAI基金会均为支持方。他计划制定相关标准对AI公司进行问责，并与企业及第三方组织合作推进。

　　西格尔提出多项可立即采取的措施：Anthropic和OpenAI应实施更严格的年龄验证，阻止未成年人使用聊天机器人;谷歌可在搜索引擎中增加关闭AI概览和AI模式的选项。他警告，虽这些措施短期可能影响使用量或利润，但不采取行动的公司将面临诉讼和监管风险，对业务造成更严重打击。

　　谷歌发言人回应称，家长可通过控制功能完全关闭孩子使用搜索引擎的权限，AI搜索功能对儿童学习探索有帮助。OpenAI则表示，除用户自报年龄外，公司还使用账户和行为信号识别未成年用户，并持续测试改进安全系统，包括防范绕过安全防护的尝试。