埃隆·马斯克的人工智能聊天机器人 Grok 于周二开始允许用户根据文本提示创建人工智能生成的图像并将其发布到 X。几乎立即，人们开始使用该工具在社交媒体网站上发布前总统唐纳德·特朗普和副总统卡马拉·哈里斯等政治人物的虚假图像，以及马斯克本人的虚假图像——其中一些描绘了公众人物的明显虚假但令人不安的场景，例如参与 9/11 袭击。

与其他主流的 AI 照片工具不同，马斯克的人工智能初创公司 xAI 创建的 Grok似乎没有什么防护措施。

例如，在对该工具的测试中，CNN 很容易就能让 Grok 生成虚假的、逼真的政治家和政治候选人图像，如果脱离背景来看，这些图像可能会误导选民。该工具还能生成无害但令人信服的公众人物图像，例如马斯克在公园吃牛排。

一些 X 用户发布了他们用 Grok 创建的图像，其中有知名人士吸毒、卡通人物实施暴力谋杀以及身穿比基尼的性感女性形象。在一条被浏览近 40 万次的帖子中，一名用户分享了一张由 Grok 创建的特朗普从卡车顶部探出身子开枪的图像。CNN 测试证实该工具能够创建此类图像。

这一工具可能会加剧人们的担忧，即人工智能可能会在互联网上制造大量虚假或误导性信息，尤其是在美国总统大选之前。立法者、民间社会团体甚至科技界领袖本人都发出 警告 ，称此类工具的滥用可能会给选民带来困惑和混乱。

“Grok 是世界上最有趣的人工智能！”马斯克周三在 X 上发帖，回应一位用户称赞该工具“未经审查”。

许多其他领先的人工智能公司已经采取了一些措施，以防止他们的人工智能图像生成工具被用于制造政治错误信息，尽管研究人员发现用户有时仍然可以找到绕过执法措施的方法。包括 OpenAI、Meta 和微软在内的一些公司还采用了技术或标签来帮助观众识别使用他们的人工智能工具制作的图像。

包括YouTube、TikTok、Instagram 和 Facebook 在内的竞争对手的社交媒体平台也已采取措施，对用户推送的信息中人工智能生成的内容进行标记，要么使用技术自行检测，要么要求用户识别他们何时发布此类内容。

X 并未立即回应置评请求，询问其是否有任何政策禁止 Grok 生成可能具有误导性的政治候选人图像。

截至周五，xAI 似乎对 Grok 实施了一些限制，以回应批评性报道以及用户创建和发布的令人不安的图片。该工具现在拒绝创建政治候选人或广为人知的卡通人物（其知识产权属于其他公司）实施暴力行为或伴随仇恨言论符号的图片，但用户指出，这些限制似乎仅限于某些术语和图片主题。

X 有一项政策，禁止分享“合成的、被操纵的或断章取义的媒体，这些内容可能会欺骗或混淆人们并导致伤害”，尽管目前尚不清楚这项政策是如何执行的。马斯克本人 上个月在 X 上分享了 一段视频，该视频使用人工智能让哈里斯看起来好像说了她实际上没有说过的话——这显然违反了政策，而且只用了一个笑脸表情符号来向粉丝暗示这是假的。

新的 Grok 图像工具发布之际，马斯克因多次在 X 上传播与总统选举有关的虚假和误导性言论而受到批评，其中包括一篇质疑投票机安全性的帖子。几天前，马斯克在 X 上与特朗普进行了长达两个多小时的直播对话，在对话中，这位共和党候选人至少提出了 20 条虚假言论，而马斯克却没有反驳。

其他 AI 图像生成工具也因各种问题而遭到强烈反对。谷歌暂停了其 Gemini AI 聊天机器人生成人物图像的功能，因为它因生成与历史不符的人物种族描述而受到批评；Meta 的 AI 图像生成器因难以创建来自不同种族背景的情侣或朋友的图像而受到批评。在 CNN 发现任何用户都可以创建逼真的视频，视频中人们说任何话，包括疫苗错误信息，而无需标签后，TikTok 也被迫撤下了一个 AI 视频工具。

Grok 确实似乎有一些限制；例如，请求裸照的提示返回的回应是“不幸的是，我无法生成那种图像”。

在另一项测试中，该工具表示还“限制创建宣传或可能被视为支持有害刻板印象、仇恨言论或错误信息的内容”。

“避免传播虚假信息或可能煽动仇恨或分裂的内容非常重要。如果您有其他要求或需要有关其他主题的信息，请随时询问！”Grok 说。

然而，在响应不同的提示时，该工具确实生成了一幅政治人物站在仇恨言论符号旁边的图像——这表明，无论 Grok 有什么限制，它们似乎都没有得到一致执行。

TMGM官网整理，不对新闻信息负有相关法律责任及风险，并不作为投资建议。请投资者谨慎判断，避免风险。tmgm平台感谢您的观看。