微软将把必应聊天回复限制在 5 条以内，以防人工智能越界
2 月 18 日消息，微软表示，在必应聊天机器人多次失控几天后，公司将对其人工智能聊天机器人实施一些对话限制。
在发现必应存在侮辱用户、欺骗用户，甚至操纵用户情感等行为之后，微软决定将其其聊天回复限制在每天 50 个问题、每个问题 5 条回复以内。
“我们的数据表明，绝大多数人都能在 5 次回复内找到他们想要的答案，只有大约 1% 的聊天对话会产生 50 条以上的消息” 。
据介绍，如果用户触发五条回答的限制，Bing 将提示他们开始一个新主题以避免长时间的聊天。
本周早些时候，微软警告说，这些包含 15 个或更多问题的长时间聊天会话可能会使必应“变得重复或被提示 / 激怒给出不一定有帮助或不符合我们设计的响应。” 微软认为在五个回合后结束对话意味着“模型不会混淆”。
微软目前仍在努力改善必应的设计，但目前还不清楚这些限制将持续多久。微软只表示:“随着我们不断获得反馈，我们将探索扩大聊天会话的上限。”
IT之家各位或多或少听过，科技圈上周掀起了一次关于聊天机器人的小高潮，微软和谷歌都试图通过展示早起版本的 AI 搜索来先发制人。微软更是宣布，该公司的 AI 搜索仅用 48 小时就吸引 100 多万人注册。
这种技术可以针对用户的问题直接给出答案，看起来就像是真人创作的一样。微软 CEO 萨提亚・纳德拉(Satya Nadella)表示，该技术“或许会掀起知识工作的工业革命”。但对于担心准确性的人来说，人工智能还有许多不足之处。
在微软进行演示时，这项嵌入在必应搜索中的类 ChatGPT 技术分析了 Gap 和 Lululemon 的财报。但业内人士将其给出的答案与财报原文对比后却发现，这款聊天机器人遗漏了一些数据，甚至会杜撰一些内容。
“必应 AI 在演示过程中给出了一些完全错误的答案，但却没人注意到。”独立搜索引擎研究员德米特里・布里尔顿(Dmitri Brereton)写道，“相反，大家都对必应的宣传欢欣鼓舞。”
布里尔顿发现，除了财务数据上的错误外，微软在演示中针对吸尘器规格和墨西哥旅行计划的回答可能存在事实性错误。布里尔顿最初并不是为了给微软“挑刺”，他只是在细致对比微软和谷歌的答案时意外发现了这些问题。
人工智能专家称这一现象为“幻觉”，也就是说，基于大语言模型生成的工具有杜撰内容的倾向。上周，谷歌推出了一款与之竞争的人工智能工具，演示过程中同样存在事实性错误 —— 但当时的错误很快就被人发现。
相关文章
- 赣锋锂业实现一代固态电池量产，能量密度超过260Wh/kg
- 重大安全风险！美光公司产品对中国关键信息基础设施构成威胁
- 全球首个5G RedCap 产业联盟成立，加速推动5G技术发展
- 亚马逊创始人贝索斯创立的蓝色起源成功获得34亿美元合约
- 利用人工智能技术，微软推出Code Optimizations助力开发者优化.NET应用和云服务
- NASA警告：巨型小行星以超8.2万公里每小时的速度靠近地球，5月24日掠过！
- 争议再起！孟羽童广告收入或可达千万元一年
- 微软首席执行官提起上诉 动视暴雪或退出英国市场
- 腾讯科技公布创新专利：表情包展示与声音关联技术
- 新技术崛起！SK海力士选择纳米压印技术打破半导体制造瓶颈
- 瑞典计划推出世界上首条永久性电气化公路，推动可持续交通发展
- 海天瑞声辛晓峰参加2023中国图象图形大会图象图形赋能产业论坛
- 推特积极发展多功能“超级应用”，收购招聘初创公司Laskie
- 中国汽车工业学会颁发“饶斌奖”，长城汽车获奖董事长感慨时代伟大
- 知乎遭遇访问问题：搜索无效、书架无法打开
- SSD市场价格变化 长江存储闪存上涨幅度约3-5%
热门教程
Edge浏览器怎么卸载？完全卸载Edge浏览器的两种方法
2电脑出现百度网盘同步空间怎么删除？四种方法轻松解决！
3电脑鼠标右键菜单选项太多怎么删除？win10清理右键多余选项方法
4Win11激活密钥_最新Windows11产品密钥分享
5微软官方 Win11激活密钥 神KEY (可激活所有版本)
6win11的wifi功能突然消失了怎么解决？win11的wifi功能突然消失的解决方法
7Win11任务栏为什么消失了？Win11任务栏消失的解决方法
8Win10共享文件夹无法访问怎么办？Win10共享文件夹无法访问的解决方法
9Win11正式版激活密钥_永久激活产品密钥
10Win11序列号 Win11永久激活密钥 Win11神KEY
装机必备 更多+
重装教程
大家都在看
电脑教程专题 更多+
