OpenAI在两个多月前发布的聊天机器人名声大噪,现在OpenAI又要“用魔法打败魔法”,推出了针对人工智能生成文本的识别工具。

据美国消费者新闻与商业频道(CNBC)报道,美国人工智能研究机构OpenAI在当地时间1月31日推出了一款新工具,旨在识别文本是由电脑自动生成还是由人类撰写。

AI代写作业,ChatGPT遭教育界拉黑


(相关资料图)

就在两个月之前,OpenAI推出的聊天机器人ChatGPT可谓火遍全球,进而引发全世界各路资本和科技巨头将目光投向这一赛道。

聊天机器人ChatGPT可以根据用户提示来模仿类人对话,令很多人沉迷于与它聊天。这款程序无论是生成小说、解答疑难问题或者是哲学的问题,都能交出让人惊叹的答案。

硬币都有两面,ChatGPT本身也有不少问题,比如它有时候答非所问,甚至牛头不对马嘴,让人不知所以,相关的用户隐私保护也将是一大难题。不过,目前显露出来最为严重的问题当属“代写作业”。

据《纽约时报》1月16日报道,美国北密歇根大学教授Antony Aumann评改“世界宗教”课程的结课论文时,发现一篇论文相当出彩。该文章以罩袍禁令的道德影响为题,段落简洁,例子恰当,论据严谨。但在Aumann询问之后,学生向他坦陈,这篇文章其实是用ChatGPT生成的。

本起代写事件远非个例,此前有调查显示,ChatGPT已被美国大学生广泛用于代写作业。这也引发了教育界人士的广泛担忧,数日前,纽约教育部门便下令“拉黑”了ChatGPT,所有纽约市的学生和教师,都无法在学校网络及设备上访问ChatGPT。

新工具对AI生成文本的识别率为26%

对于代写作业,OpenAI也给出了解决方式——一款新的文本识别工具。不过,这款工具是否真的能够“用魔法打败魔法”尚且存疑。

OpenAI的首席执行官Sam Altman近日在一次访谈中表示,在新技术出现后,传统的教育方式发生了变化,但他也提到,公司可能有办法帮助教师来识别人工智能生成的文本。

据CNBC,OpenAI的员工们表示,OpenAI这款识别工具仍在改进之中,可能会犯错,希望能得到家长和老师的反馈,在一次评估中“我们的工具正确地将26%的AI生成文本识别为‘可能是AI生成的’,同时错误地将9%的人类撰写文本标记为‘AI生成文本。’”

有意思的是,员工们还提到,人工智能生成的文本稍作升级,就能够让识别工具无法准确判别文本是否由人类撰写。如此看来,ChatGPT和新工具或将展开“道高一尺魔高一丈”的角逐。

OpenAI由特斯拉CEO埃隆·马斯克和投资家Sam Altman等人创办,2018年马斯克退出公司董事会。2019年,OpenAI获得了微软10亿美元的投资,随后两家公司已经进行了长达数年的合作,OpenAI在微软的Azure云计算服务上开发其人工智能超级计算技术。近日,据美国科技媒体The Information报道,微软可能会将OpenAI的ChatGPT整合到Word、PowerPoint、Outlook和其他应用程序中,并将使用ChatGPT背后的人工智能来推出一款新版搜索引擎必应(Bing)。

就在上周,微软公司宣布,将对OpenAI进行持续数年、多达数十亿美元的投资。微软并未公开具体金额,不过美国财经媒体Semafor此前报道称,微软对OpenAI的投资或高达100亿美元。

关键词: