训练运行模式缺陷或致AI提供危险建议
英国《自然》杂志网站日前发表文章说，训练人工智能（AI）聊天机器人可能向用户提供危险或非法建议，运行引发越来越广泛的模式担忧，出现这种情况的缺陷部分原因在于AI的训练和运行模式存在固有缺陷，这也加大了监管难度。提供
文章说，危险已有多起案例显示，建议AI聊天机器人曾鼓励用户自杀、训练制作非法内容、运行实施金融诈骗等，模式暴露出当前AI大语言模型（LLM）底层架构存在缺陷。缺陷
一个比较有争议的提供例子是，美国佛罗里达州检方日前宣布，危险就去年4月在佛罗里达州立大学发生的建议一起枪击案对美国开放人工智能研究中心(OpenAI)及其AI聊天机器人ChatGPT发起刑事调查。在这起案件中，训练嫌疑人在佛罗里达州立大学开枪射击，造成2人死亡、6人受伤。调查发现，嫌疑人在作案前曾向ChatGPT寻求“建议”。
文章援引专家的说法指出，大语言模型使用海量数据进行训练，而非基于严密的因果逻辑规则运行，因此只是根据用户的提示词进行补全预测，生成最可能的词序，无法真正理解其输出内容的意义和后果，也给限制AI“不应该说什么”带来困难。目前采取的应对措施包括为AI制定规则、人类反馈或者手动移除训练数据中的有害信息等，但面临着无法涵盖所有情况以及成本高昂等问题。
《自然》认为，目前AI的安全标准主要由各家企业自行制定，外部监管有限，相关案件的出现敦促企业采取更有效的安全措施。有观点认为，研究人员可能需要重新考虑基础算法，以构建出能够理解伦理和法律的AI系统。
来源：新华社
(责任编辑：综合)
戴琪：寻找熊猫的另一种“存在方式”丨对话大熊猫文化创意大赛参赛者
一年四季 泉在济南丨繁花织锦缎 百花洲月季扮靓泉城街巷
20岁男子出差凌晨吃炸鸡后猝死，家属起诉公司，法院一审：公司无过错，但酌情补偿家属6万元
母亲节温情来袭 花式礼物传递浓浓爱意
视频丨泰国前总理他信假释出狱，与女儿佩通坦紧紧相拥-
《拍摄人间：一个〈中国国家地理〉摄影师的工作手记》 讲述杂志上没有出现过的幕后故事
《中国国家地理》图片编辑、摄影师马宏杰的摄影集《拍摄人间：一个〈中国国家地理〉摄影师的工作手记》近日由惊奇图书丨广西师范大学出版社出版。据介绍，本书是《中国国家地理》摄影师马宏杰20多年的工作手记，精
...[详细]
-
网友称在一餐馆点一盘黄焖鸡吃出24块鸡头，店方：十几只鸡一起杀的，没把鸡头分均匀
5月9日，网民发视频称在云南墨江一餐馆就餐，一盘黄焖鸡发现有24块鸡头，这让他觉得体验感很差，已打12315反映。10日餐馆员工告诉记者，系十几只鸡一起杀称斤卖，没有把鸡头分均匀导致，已给顾客免掉12
...[详细]
-
“智汇潇湘 才聚湖南”杭州站专场招聘活动现场。——“智汇潇湘 才聚湖南”杭州站）系列评论之二□岳熙然南京师范大学）湖南与浙江，虽相隔千里，却有着相似的精神气质。浙江以“干在实处、走在前列、勇立潮头”著
...[详细]
-
笑声点亮申城 脱友生活节收官出圈，打造上海文商旅融合全新样板
近日，上海文化广场草坪上暖意融融、笑声不断，由张绍刚主持的脱口秀观众专属颁奖盛典圆满落幕，为为期五天的脱友生活节画上完美句号。作为笑果打造的国内首个以观众为核心的城市喜剧生活节，本次活动贯穿5月1日至
...[详细]
-
OPPO就母亲节文案事件发布问责通告 高级副总裁职级直降两级
【OPPO就母亲节文案事件发布问责通告 高级副总裁职级直降两级】财联社5月11日电，就OPPO因母亲节不当文案事件，OPPO今日内部正式发布问责通告，对相关责任人进行了定级处罚。其中，OPPO中国区业
...[详细]
-
据新华社消息，记者5月9日从中国科学院力学研究所获悉，我国空间引力波探测“太极计划”传来新消息，科研团队成功研制出全功能干涉仪光学平台，并通过地面严格测试，标志着我国向太空探测引力波又迈出重要一步。“
...[详细]
-
在五粮液的酒窖里，时间原本是资产；但在2026年的春天，它却成了最危险的证人。5月6日，中国股市在五一长假后如期迎来补涨行情，沪深两市暖意融融。然而，白酒行业的高端次龙头、总市值超3500亿元的五粮液
...[详细]
-
5月10日母亲节，济南各大商场营造出浓厚的节日氛围。商超内精心布置母亲节主题展台，粉色爱心装饰、温馨标语随处可见，鲜花、零食、礼品区打造特色场景，吸引众多市民驻足选购。不少顾客带着孩子挑选礼物，用实际
...[详细]
-
母亲节即时零售消费热度攀升：淘宝闪购鲜花订单同比增长近五成，预订单占比远超情人节
母亲节到来，亲情礼赠场景加速释放即时消费活力。淘宝闪购数据显示，节日前夕，“母亲节礼物”相关词条搜索量周环比增长超15倍，其中“鲜花”“花店”等关键词搜索热度周环比增长超18倍，鲜花成为母亲节礼赠刚需
...[详细]
-
5月10日，济南南护城河心的五莲泉景致宜人，潺潺泉水与盛放蔷薇相映成趣，勾勒出独属于泉城的诗意风光。作为黑虎泉泉群的重要景观，五莲泉泉池叠石错落，澄澈泉水自池底泉眼涌动，层层漫溢注入护城河，水声清悦。
...[详细]
