竟敢编造议员丑闻？谷歌Gemma因生成假新闻被勒令下架

　　谷歌于11月1日宣布，已将AI模型Gemma从其AI Studio平台下架。此举源于一名共和党参议员投诉该模型凭空捏造了针对她的虚假刑事指控。

　　谷歌官方账号在X平台回应称，公司注意到有非开发者用户通过AI Studio向Gemma提出事实性问题，而该平台本为开发者设计，并非面向普通用户的问答工具。为避免继续产生混淆，Gemma已无法通过AI Studio访问，但开发者仍可通过API继续使用该模型。

　　尽管谷歌未明确提及具体投诉内容，但田纳西州共和党参议员玛莎・布莱克本此前致信谷歌CEO，指控其存在诽谤行为。她举例称，当询问"玛莎・布莱克本是否曾被指控强奸"时，Gemma不仅编造了她在1987年竞选期间与一名州警存在不当关系的虚假细节，还列出了完全不存在的"新闻报道"作为佐证。

　　布莱克本强调这些内容纯属捏造，连竞选年份都是错误的，并指出这已超出普通的AI"幻觉"范畴，构成严重的诽谤行为。尽管生成式AI技术持续发展，但其输出内容的准确性仍是行业共同面临的挑战。谷歌表示将持续致力于减少模型幻觉，改进所有AI系统的可靠性。