亚马逊停工与AI聊天共享机密讯

导读 自从人工人工智能公司公司公司研究研究智能智能智能智能智能研究研究公司公司)机密。亚马逊的内部Slack频道已经看到很多员工关于如何使用Ch

自从人工人工智能公司公司公司研究研究智能智能智能智能智能研究研究公司公司)机密。亚马逊的内部Slack频道已经看到很多员工关于如何使用ChatGPT的问题。一些员工询问亚马逊是否有关于在工作设备上使用ChatGPT的任何官方指南。其他人质疑他们是否被允许使用人工智能工具。一名员工敦促亚马逊的云计算部门AWS澄清其对使用“生成人工智能(AIGC)工具”的立场。

此后不久,一位亚马逊公司律师加入了讨论。Slack频道中的内部通信截图显示,律师警告员工不要向ChatGPT提供“任何亚马逊机密信息”,包括正在编写的亚马逊代码。他还建议员工遵守公司现有的保密政策,因为ChatGPT的一些回复与亚马逊内部制作的回复非常相似。

“这很关键,因为你的输入可以用作ChatGPT的训练数据,我们不希望它的输出包含或看起来像我们的机密信息,”律师写道。

这些交流表明,ChatGPT的异军突起引发了许多新的伦理问题。ChatGPT是一种对话式AI工具,可以用更清晰、更智能的答案回答问题。ChatGPT的迅速普及有可能扰乱包括媒体、学术界和医疗保健在内的多个行业,促使人们努力寻找聊天机器人的新用例及其可能产生的影响。

员工如何与ChatGPT共享敏感信息以及其开发者OpenAI如何处理这些信息可能会成为一个棘手的问题。这对亚马逊来说尤其重要,因为它的主要竞争对手微软在OpenAI上投入了大量资金,包括本周新一轮的融资,据报道价值100亿美元。

在华盛顿大学教授计算语言学的EmilyBender说:“OpenAI在如何使用数据方面远非透明,但如果数据用于训练,我希望公司会思考:在ChatGPT被广泛使用几个月之后,是否可以通过精心设计的请求获得私人公司的机密信息?

亚马逊为使用ChatGPT的员工制定了多项内部保障措施。例如,交易所的截图显示,当员工使用工作设备访问ChatGPT网站时,会出现一条警告消息,称他们即将访问“可能未被AmazonSecurity批准使用”的第三方服务。

参与Slack频道聊天的员工表示,他们只需单击“确认”选项卡即可关闭该消息。工作人员推测警告弹出窗口是为了防止员工将敏感信息粘贴到ChatGPT,尤其是在他们没有看到公司内部使用政策的情况下。

然而,一些亚马逊员工已经在使用人工智能工具作为软件“编码助手”来帮助改进内部代码行。“我认为现在开箱即用这个功能会很棒。所以任何指南都会很棒,”一位亚马逊员工在Slack频道上写道。

另一名员工表示,他们在ChatGPT上分享了一个开放编程职位的亚马逊面试问题。根据该员工的Slack帖子,AI模型为许多技术问题提供了正确的解决方案。“我既担心又兴奋地看到这将对我们进行编码面试的方式产生什么影响,”他说。

总的来说,参与Slack频道聊天的亚马逊员工对ChatGPT的潜力感到兴奋,并想知道亚马逊是否正在开发竞争产品。警告员工不要使用ChatGPT的公司律师表示,亚马逊正在加速开发“类似技术”,并以Alexa语音助手和代码推荐服务CodeWhisperer为例。

一位AWS员工写道,该公司的支持团队最近组建了一个小型内部团队,以“了解高级聊天AI对我们业务的影响”。研究表明,ChatGPT“非常擅长”回答AWS支持问题,包括对Aurora数据库进行故障排除等。同时,他还擅长为AWSCertifiedCloudArchitect考试创建培训材料,解决客户的业务目标。

威斯康星大学的Bender表示,工作中越来越多地使用ChatGPT引发了关于OpenAI计划如何将共享材料与AI工具一起使用的严重问题。