（华盛顿7日综合电）美国微软（Microsoft）公司的一名人工智能（AI）工程师表示，该公司的人工智能图像工具生成的暴力和性图像可能会对社会造成危害。
在周三写给联邦贸易委员会(FTC)和微软董事会的信中，首席软件工程经理琼斯（Shane Jones）谈到了他对微软“负责任AI策略”的担忧。
琼斯担心，微软的Copilot Designer工具可能会被用来创建不安全的图像，包括对性化、阴谋论和吸毒的描述。
琼斯在给联邦贸易委员会的信中说：“Copilot Designer创建的其他各类有害内容包括：政治偏见、未成年人酗酒和吸毒、滥用企业商标和版权、阴谋论和宗教等等”，他在领英(LinkedIn)上发布了这封信。信中写道：“我曾多次敦促微软停止向公众提供Copilot Designer，直到出台更好的保障措施。”
他说，微软的环境、社会和公共政策委员会应该开展独立调查，帮助微软“以负责任的最高AI标准引领行业”。
琼斯在一篇帖子中写道：“我们需要全行业通力合作，并与政府和公民社会紧密合作，就AI的风险和益处开展公众宣传和教育。”
已经在微软工作6年的琼斯说，他从去年12月开始就一直在测试AI图像生成器，发现一些缺陷和安全漏洞可能会让用户生成有害的图像，这些图像可能对消费者具有冒犯性，或者包含不宜内容。
除了信件和领英的帖文外，琼斯不予进一步置评。
阅读更多精彩文章 马上浏览独家配套
微软发言人说：“我们致力于按照公司政策解决员工的任何和所有关切，我们感谢该员工努力研究和测试我们的最新技术，以进一步提高其安全性。”
在2月的一篇博客文章中，微软总裁史密斯(Brad Smith)讨论了该公司致力于让用户安全使用人工智能的承诺。史密斯说：“来自微软和整个科技领域的这些新工具不断推向市场，在这种情况下，我们必须采取新的措施，确保新技术不会被滥用。”
自2022年末OpenAI的ChatGPT推出后，人工智能领域出现爆炸式增长。数以十亿美元计的资金涌入该行业，科技巨头和亿万富翁们竞相投入资金，试图得到下一个人工智能摇钱树。
微软去年推出了Copilot Designer，采用了与OpenAI的ChatGPT相同的技术。该系统结合了OpenAI的DALL-E 3文本到图像生成器，用户在输入一些文字组合或进行描述后会创建图像。
微软希望通过“Copilot for Microsoft 365”实现其数十年来最大的成功，这是一款人工智能升级产品，可插入Word、Outlook和Teams等软件。
琼斯的信披露之前，竞争对手谷歌在人工智能领域的动作陷入争议。谷歌上个月暂停了在旗舰产品Gemini聊天机器人生成人物图像的功能，原因是该工具处理种族和民族内容的做法在网上引起反噬。
琼斯承认，其他有人工智能产品的公司也有自己的问题，并称赞Alphabet首席执行官桑达·皮采(Sundar Pichai)在给员工的内部通知中直接提出了Gemini的问题。
微软已向OpenAI投资数以十亿美元计的资金。琼斯说，他在去年12月发现了OpenAI的DALL-E 3模型的一个安全漏洞，他借助该漏洞绕过了一些防止生成有害图像的安全协议。
在发现DALL-E 3存在其他系统性问题后，他于12月在领英上给OpenAI董事会另外写了一封信，敦促他们在这些问题得到解决之前暂停提供该软件。
琼斯说，他的经理让他删除12月份的信。OpenAI周三没有立即回应置评请求。
“在过去的3个月里，我曾多次敦促微软停止将Copilot Designer提供给公众使用，直到更好的保障措施到位，”他在写给FTC主席Lina Khan的信中说。他敦促FTC与微软和其他公司合作，提升人工智能的安全性，并加大人工智能风险公开披露的透明度。
文：综合报导
图：示意图
文章评论