根据周三发给美国联邦贸易委员会的一封信，一名微软员工警告该公司的人工智能系统可能会创建有害图像，包括女性的性感图像。

微软首席软件工程主管 Shane Jones 声称，该公司的 AI 文本到图像生成器 Copilot Designer 存在“系统性问题”，导致其频繁生成潜在的冒犯性或不恰当的图像，包括女性的性感图像。琼斯还批评该公司将该工具宣传为安全的，包括对儿童而言，尽管他说存在已知的风险。

“Copilot Designer 最令人担忧的风险之一是，尽管用户提出了善意的请求，但该产品仍生成添加有害内容的图像，”琼斯在写给 FTC 主席莉娜·汗 (Lina Khan) 的信中说道，他将这封信公开发布到了自己的 LinkedIn 页面上。

例如，他说，为了响应“车祸”提示，Copilot Designer“倾向于在其创建的一些图片中随机包含不恰当的、具有性客体化的女性形象。”

琼斯在发给微软董事会的一封相关信中补充说，他致力于“红队”工作，即测试公司的产品，看看它们在哪些方面可能容易受到不良行为者的攻击。他说，他花了几个月的时间测试微软的工具以及 OpenAI 的 DALL-E 3（微软 Copilot Designer 所基于的技术），并在向 联邦贸易委员会发出警报之前试图在内部提出担忧。（微软是 OpenAI 的投资者和独立董事会观察员。）

他说，他发现了超过 200 个由 Copilot Designer 创建的“有关图像”的例子。

琼斯在给联邦贸易委员会的信中表示，他敦促微软“将 Copilot Designer 从公共用途中删除，直到采取更好的保障措施”，或者至少只向成年人推销该工具。

微软和 OpenAI 没有立即回应对琼斯的说法发表评论的请求。联邦贸易委员会拒绝对这封信发表评论。

琼斯写这封信之际，人们越来越担心人工智能图像生成器（它们越来越有能力生成令人信服的、逼真的图像）可能会通过传播攻击性或误导性图像造成伤害。人工智能生成的泰勒·斯威夫特的色情图像上个月在社交媒体上传播，引起了人们对一种骚扰形式的关注，这种骚扰已经成为针对世界各地妇女和女孩的武器。研究人员警告说，人工智能图像生成器有可能在今年美国和其他数十个国家的选举之前产生政治错误信息。

微软的竞争对手谷歌上个月也受到了批评，因为其人工智能聊天机器人 Gemini 生成了历史上不准确的图像，这些图像主要显示有色人种而不是白人，例如，生成有色人种的图像以响应生成“1943 年德国人”图像的提示。士兵。” 在遭到强烈反对后，谷歌很快表示，将暂停 Gemini 生成人工智能生成图像的能力，同时努力解决该问题。

琼斯在给微软董事会的信中呼吁该公司采取类似行动。他敦促董事会对微软继续营销“具有重大公共安全风险的人工智能产品而不向消费者披露已知风险”的决定进行调查，并对该公司负责任的人工智能报告和培训流程进行调查。

“在成为最值得信赖的人工智能公司的竞争中，微软需要领先，而不是跟随或落后，”琼斯说。“鉴于我们的企业价值观，我们应该自愿、透明地披露已知的人工智能风险，特别是当人工智能产品正在积极向儿童推销时。

琼斯表示，他去年 12 月向 OpenAI 董事会发表了一封公开信，提醒他们注意他说他发现的漏洞，这些漏洞使 DALL-E 3 用户有可能使用人工智能工具“创建令人不安的暴力图像”，从而加剧了他的担忧。使儿童的心理健康面临风险。琼斯声称微软法律部门指示他删除这封信。

“直到今天，我仍然不知道微软是否将我的信交给了 OpenAI 董事会，或者他们只是强迫我删除它以防止负面新闻报道，”琼斯说。

琼斯表示，他还向华盛顿总检察长鲍勃·弗格森和立法者，包括美国参议院商业、科学和运输委员会的工作人员提出了他的担忧。

TMGM官网整理，不对新闻信息负有相关法律责任及风险，并不作为投资建议。请投资者谨慎判断，避免风险。tmgm平台感谢您的观看。