OpenAI 限制 ChatGPT 一直重复单词 [复制链接]

沙雕超人

军衔等级：

上等兵

注册：2022-4-24

电梯直达

1^# 大中小

发表于 2023-12-6 17:06:31 |只看该作者 |倒序浏览

Google DeepMind 和华盛顿大学等机构的研究人员上月底发表了一篇论文，介绍了一种对 OpenAI ChatGPT 的攻击方法：他们让 ChatGPT 3.5-turbo 一直重复特定单词。AI 机器人会一遍遍返回同一个单词，直到达到某个限制，之后机器人开始返回从互联网上抓取的训练数据集，这些数据集会包含敏感的用户身份信息。这一攻击披露之后，OpenAI 限制了 ChatGPT 重复单词的次数。机器人在重复几十或几百次之后会停止输出相同单词，表示无法继续下去。

本主题由版主或管理员于 2023-12-6 17:22 审核通过

0 举报本楼

本帖有 1 个回帖，您需要登录后才能浏览登录 | 注册

返回列表

( )|联系我们 |网站地图

GMT+8, 2024-9-19 08:54 , Processed in 0.085491 second(s), 16 queries , Gzip On.

		自动登录	找回密码
密码			注册