C114通信网  |  通信人家园

人工智能
2023/12/2 20:30

员工称亚马逊 AI 聊天机器人 Q “幻觉”严重,且泄露公司机密数据

IT之家  故渊

亚马逊于今年 11 月底推出名为 Q 的 AI 聊天机器人,不过根据国外科技媒体 Platformer 披露的一份内部文件,亚马逊员工称 Q 存在严重的“幻觉”问题,并泄露了包括 AWS 数据中心位置、内部折扣计划等诸多机密信息。

IT之家 11 月 17 日报道,剑桥词典(Cambridge Dictionary)近日宣布 2023 年年度词汇为“hallucinate”(产生幻觉)。

hallucinate 原意为似乎看到、听到、感觉到或闻到“一些不存在的东西”,通常是指用户在不良健康或者服用药物状态下产生的幻觉。

伴随着 AI 的崛起,hallucinate 延伸为 AI 产生幻觉,生成错误的信息。

报告文件显示,亚马逊 Q 会产生幻觉,返回有害或不适当的聊天内容。例如,亚马逊 Q 会返回过时的安全信息,可能会让客户面临风险。

亚马逊淡化了员工讨论的重要性,并声称没有发现任何安全问题。然而,泄露的文件引发了人们对 Q 准确性和安全性的担忧,Q 仍处于预览阶段,尚未正式发布。

一名员工将该事件标记为“sev 2”,这意味着该事件非常严重,需要工程师加班第一时间修复。

Q 被定位为 ChatGPT 的企业级版本,旨在比消费级工具更安全。然而,内部文件强调了 Q 提供不准确或有害信息的风险。

报道称 Q 除了存在严重的幻觉之外,还泄露了公司机密数据,包括 AWS 数据中心的位置、内部折扣计划和未发布的功能。

文章发表后,该发言人发布一份声明,反驳了员工的说法,称亚马逊 Q 没有泄露机密信息。

给作者点赞
0 VS 0
写得不太好

免责声明:本文仅代表作者个人观点,与C114通信网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。

热门文章
    最新视频
    为您推荐

      C114简介 | 联系我们 | 网站地图 | 手机版

      Copyright©1999-2024 c114 All Rights Reserved | 沪ICP备12002291号

      C114 通信网 版权所有 举报电话:021-54451141