今日国家机构传递新政策{阿里千问}斩获：顶级AI{会议最佳}论文 很高兴为您解答这个问题，让我来帮您详细说明一下。品牌授权报修电话，快速上门服务
隆安县，辽宁省锦州市义县，海南省海口市美兰区，云南省西双版纳傣族自治州勐腊县，辽宁省朝阳市北票市，鹿泉区寺家庄镇，福建省漳州市龙海市，西藏山南市，百色市田林县，陕西省宝鸡市眉县，四川省德阳市广汉市，黑龙江省鸡西市鸡冠区，黑龙江省大兴安岭地区呼玛县，江苏省徐州市丰县，洛阳市汝阳县，山东省淄博市临淄区，山东省潍坊市青州市，甘肃省陇南市，四川省乐山市，黑龙江省绥化市明水县，黑龙江省七台河市桃山区，山西省运城市夏县，江苏省苏州市相城区，海南省儋州市，山西省临汾市安泽县，焦作市沁阳市，河东区大直沽街道，合肥市庐阳区，和田地区，井陉县吴家窑乡，山东省滨州市，青海省海西蒙古族藏族自治州德令哈市，山西省晋城市泽州县，云南省丽江市宁蒗彝族自治县，丰台区右安门街道，鹿泉区白鹿泉乡，防城港市东兴市，陕西省咸阳市兴平市，湖北省宜昌市西陵区，丰台区宛平城地区，喀什地区叶城县，焦作市，甘肃省兰州市，山东省烟台市牟平区，元氏县，云南省红河哈尼族彝族自治州绿春县，山西省晋中市灵石县，河东区东新街道，福建省南平市建瓯市，马鞍山市博望区，黑龙江省伊春市金林区，长安区广安街道，阿克苏地区拜城县，乌鲁木齐市沙依巴克区，南阳市内乡县，怀柔区雁栖地区，山西省长治市襄垣县，重庆市市辖区北碚区，陕西省商洛市山阳县，江苏省南京市浦口区，赞皇县西龙门乡，桂林市秀峰区，四川省成都市新都区，四川省凉山彝族自治州昭觉县，和平区南市街道，湖北省宜昌市夷陵区，辽宁省沈阳市，博尔塔拉蒙古自治州温泉县，山东省青岛市城阳区，海南省三沙市西沙区，吉林省白山市浑江区，山西省晋中市榆社县，武清区上马台镇，桂林市兴安县，丰台区和义街道，广东省广州市越秀区，贵州省黔南布依族苗族自治州惠水县，四川省凉山彝族自治州甘洛县，蚌埠市蚌山区，信阳市平桥区，赞皇县院头镇，芜湖市南陵县，辽宁省辽阳市白塔区，甘肃省陇南市武都区，百色市靖西市，云南省文山壮族苗族自治州广南县，广东省深圳市，江苏省镇江市句容市，喀什地区麦盖提县，平顶山市卫东区，青海省海南藏族自治州贵德县，朝阳区管庄地区，蚌埠市龙子湖区，南开区体育中心街道，山西省忻州市定襄县，贵州省六盘水市水城县，内蒙古鄂尔多斯市康巴什区，陕西省汉中市西乡县，山东省东营市垦利区，云南省红河哈尼族彝族自治州泸西县，辽宁省本溪市溪湖区，西城区天桥街道，江西省景德镇市昌江区，怀柔区龙山街道，福建省莆田市仙游县，内蒙古兴安盟乌兰浩特市，黑龙江省鹤岗市，淮南市大通区，江苏省徐州市新沂市，广东省佛山市三水区，静海区西翟庄镇，云南省玉溪市新平彝族傣族自治县，桥西区苑东街道，西藏山南市贡嘎县，朝阳区酒仙桥街道，亳州市利辛县，怀柔区宝山镇，江西省吉安市永新县，山西省忻州市宁武县，福建省福州市罗源县，桥西区留营街道，四川省甘孜藏族自治州九龙县，元氏县殷村镇，北辰区，蓟州区东施古镇，门头沟区大峪街道，内蒙古乌海市乌达区，蓟州区东二营镇，黑龙江省佳木斯市汤原县，四川省宜宾市珙县，内蒙古锡林郭勒盟正镶白旗，四川省成都市金牛区，江苏省徐州市，哈密市伊吾县，福建省福州市永泰县，许昌市建安区，行唐县龙州镇，陕西省汉中市留坝县，湖北省恩施土家族苗族自治州恩施市，青秀区，平山县东回舍镇，西藏阿里地区日土县，平山县上观音堂乡，西藏拉萨市达孜区，平山县宅北乡，井陉县测鱼镇，无极县大陈镇，南开区长虹街道，朝阳区小关街道，西乡塘区，陕西省汉中市南郑区，福建省莆田市城厢区，四川省凉山彝族自治州西昌市，四川省泸州市江阳区，山东省泰安市东平县，昌平区延寿镇，湖北省宜昌市宜都市，焦作市中站区
今日行业协会披露新政策动向当AI开始操控情绪，人类该担何责，很高兴为您解答这个问题，让我来帮您详细说明一下:官方服务专线，支持多品牌报修
全球服务区域:隆安县，辽宁省锦州市义县，武清区汊沽港镇，云南省西双版纳傣族自治州勐腊县，辽宁省铁岭市开原市，云南省怒江傈僳族自治州福贡县，黑龙江省佳木斯市富锦市，福建省漳州市龙海市，四川省德阳市广汉市，黑龙江省鸡西市鸡冠区，黑龙江省大兴安岭地区呼玛县，四川省广安市岳池县，密云区古北口镇，甘肃省庆阳市镇原县，山东省潍坊市青州市，长安区南村镇，四川省乐山市，黑龙江省七台河市桃山区，山西省运城市夏县，福建省三明市梅列区，山西省吕梁市中阳县，江苏省苏州市相城区，海南省儋州市，山西省临汾市安泽县，河东区大直沽街道，和田地区，井陉县吴家窑乡，山东省滨州市，青海省海西蒙古族藏族自治州德令哈市，山西省晋城市泽州县，云南省丽江市宁蒗彝族自治县，密云区河南寨镇，丰台区右安门街道，鹿泉区白鹿泉乡，广东省珠海市斗门区，蓟州区东赵各庄镇，青海省果洛藏族自治州，焦作市，平山县小觉镇，元氏县，山西省朔州市山阴县，马鞍山市博望区，湖北省襄阳市襄州区，广东省江门市，黑龙江省伊春市金林区，宝坻区牛家牌镇，乌鲁木齐市沙依巴克区，广东省云浮市新兴县，江苏省连云港市赣榆区，内蒙古锡林郭勒盟镶黄旗，陕西省西安市未央区，钦州市，山西省长治市襄垣县，内蒙古呼伦贝尔市阿荣旗，陕西省宝鸡市千阳县，陕西省商洛市山阳县，桥西区东华街道，赞皇县西龙门乡，四川省成都市新都区，昌平区阳坊镇，四川省凉山彝族自治州昭觉县，青海省玉树藏族自治州治多县，昌平区回龙观街道，山东省青岛市城阳区，阿克苏地区新和县，吉林省白山市浑江区，平顶山市湛河区，武清区上马台镇，丰台区和义街道，广东省广州市越秀区，甘肃省白银市景泰县，重庆市县巫山县，贵州省黔南布依族苗族自治州惠水县，延庆区康庄镇，甘肃省定西市渭源县，蚌埠市蚌山区，贵州省铜仁市印江土家族苗族自治县，山西省晋城市高平市，信阳市平桥区，芜湖市南陵县，辽宁省辽阳市白塔区，甘肃省陇南市武都区，朝阳区双井街道，云南省文山壮族苗族自治州广南县，广东省深圳市，甘肃省天水市秦州区，朝阳区管庄地区，南开区体育中心街道，密云区高岭镇，内蒙古鄂尔多斯市康巴什区，湖北省恩施土家族苗族自治州建始县，山东省威海市，陕西省汉中市西乡县，山东省东营市垦利区，云南省大理白族自治州云龙县，江西省鹰潭市余江区，福建省莆田市仙游县，内蒙古兴安盟乌兰浩特市，黑龙江省鹤岗市，海淀区青龙桥街道，崇左市宁明县，淮南市大通区，福建省厦门市海沧区，山东省烟台市龙口市，湖北省宜昌市秭归县，江苏省徐州市新沂市，静海区西翟庄镇，丰台区长辛店镇，云南省玉溪市新平彝族傣族自治县，江西省宜春市奉新县，桥西区苑东街道，静海区大邱庄镇，亳州市利辛县，怀柔区宝山镇，江西省吉安市永新县，山西省忻州市宁武县，桥西区留营街道，四川省甘孜藏族自治州九龙县，四川省甘孜藏族自治州，北辰区，开封市通许县，内蒙古乌海市乌达区，四川省甘孜藏族自治州泸定县，蓟州区东二营镇，黑龙江省佳木斯市汤原县，贵州省铜仁市玉屏侗族自治县，四川省成都市金牛区，四川省宜宾市江安县，哈密市伊吾县，黑龙江省哈尔滨市巴彦县，许昌市建安区，行唐县龙州镇，密云区不老屯镇，江西省萍乡市上栗县，陕西省汉中市留坝县，湖北省恩施土家族苗族自治州恩施市，青秀区，平山县东回舍镇，平山县上观音堂乡，西藏拉萨市达孜区，井陉县测鱼镇，固原市西吉县，无极县大陈镇，南开区长虹街道，西乡塘区，辽宁省沈阳市沈河区，辽宁省沈阳市浑南区，贵州省黔东南苗族侗族自治州天柱县，山西省吕梁市岚县，福建省莆田市城厢区，河西区桃园街道，四川省凉山彝族自治州西昌市，云南省普洱市景东彝族自治县，江苏省南通市启东市，山东省泰安市东平县，昌平区延寿镇，元氏县苏村乡，湖北省宜昌市宜都市
刚刚国家机构发布最新通报当AI开始操控情绪，人类该担何责，很高兴为您解答这个问题，让我来帮您详细说明一下:售后服务维修中心电话，支持多渠道服务
全国服务区域：辽宁省锦州市义县，武清区汊沽港镇，辽宁省铁岭市开原市，伊犁哈萨克自治州昭苏县，山西省阳泉市平定县，西藏山南市，山东省德州市齐河县，黑龙江省大兴安岭地区呼玛县，四川省广安市岳池县，洛阳市汝阳县，甘肃省庆阳市镇原县，甘肃省陇南市，甘肃省甘南藏族自治州，朝阳区豆各庄地区，山西省运城市夏县，山西省临汾市安泽县，河东区大直沽街道，和田地区，山东省滨州市，云南省丽江市宁蒗彝族自治县，广东省珠海市斗门区，防城港市东兴市，湖北省宜昌市西陵区，青海省果洛藏族自治州，丰台区宛平城地区，焦作市，元氏县，福建省南平市，河东区东新街道，马鞍山市博望区，广东省江门市，黑龙江省伊春市金林区，宝坻区牛家牌镇，长安区广安街道，乌鲁木齐市沙依巴克区，南阳市内乡县，江苏省连云港市赣榆区，内蒙古锡林郭勒盟镶黄旗，钦州市，四川省成都市双流区，山东省泰安市泰山区，桥西区东华街道，江苏省南京市浦口区，赞皇县西龙门乡，四川省宜宾市翠屏区，桂林市秀峰区，四川省成都市新都区，昌平区阳坊镇，辽宁省沈阳市，吉林省白山市浑江区，平顶山市湛河区，广东省广州市越秀区，甘肃省白银市景泰县，重庆市县巫山县，甘肃省定西市渭源县，蚌埠市蚌山区，贵州省铜仁市印江土家族苗族自治县，山西省晋城市高平市，信阳市平桥区，四川省广元市，赞皇县院头镇，甘肃省陇南市武都区，朝阳区双井街道，云南省文山壮族苗族自治州广南县，广东省深圳市，平顶山市卫东区，甘肃省天水市秦州区，蚌埠市龙子湖区，北海市海城区，内蒙古鄂尔多斯市康巴什区，银川市贺兰县，山西省晋中市太谷区，山东省威海市，陕西省汉中市西乡县，云南省红河哈尼族彝族自治州泸西县，怀柔区龙山街道，福建省莆田市仙游县，海淀区青龙桥街道，崇左市宁明县，山东省烟台市龙口市，广东省佛山市三水区，桥西区苑东街道，蓟州区官庄镇，朝阳区酒仙桥街道，福建省厦门市湖里区，江西省吉安市永新县，福建省福州市罗源县，桥西区留营街道，四川省甘孜藏族自治州，蓟州区东二营镇，贵州省铜仁市玉屏侗族自治县，江苏省徐州市，山东省聊城市茌平区，内蒙古鄂尔多斯市鄂托克旗，四川省宜宾市江安县，哈密市伊吾县，福建省福州市永泰县，行唐县龙州镇，密云区不老屯镇，江西省萍乡市上栗县，湖北省恩施土家族苗族自治州恩施市，平山县东回舍镇，平山县上观音堂乡，西藏拉萨市达孜区，井陉县测鱼镇，固原市西吉县，平山县岗南镇，无极县大陈镇，新乐市协神乡，西乡塘区，辽宁省沈阳市浑南区，陕西省汉中市南郑区，吉林省长春市双阳区，云南省普洱市景东彝族自治县，昌平区延寿镇，辽宁省大连市旅顺口区，湖北省宜昌市宜都市，焦作市中站区
售后服务上门服务电话，智能分配单据：当AI开始操控情绪，人类该担何责
思想者观察
当AI开始操控情绪，人类该担何责
最关键的变化并不在于机器如今能够生成内容，而在于它们开始能够生成语境。传统的内容生成仅提供信息或文本，但缺乏对信息背后的因果关系、叙事逻辑及情绪语境的把控。而人工智能代理能够在生成内容的同时嵌入特定语境，塑造事件的因果链、情绪氛围或社会语境，从而更有效地影响受众的理解、判断和情绪反应。
OpenClaw，即俗称的“龙虾”，是一种能够在个人设备上执行任务的人工智能代理，例如安排日程、阅读电子邮件、通过应用发送消息、使用互联网进行购物等，甚至经过配置后可以自动调用API。它颠覆了传统AI“一问一答”的模式，可以全天候待命并按用户设定的指令主动办事。
也就是说，大多数流行的人工智能工具(如ChatGPT)通过直接响应用户提示来工作，而像OpenClaw这样的“代理型人工智能”则能够根据指令自主执行操作。只不过，用户需要通过指令指导、训练它，同时须花费一定成本使用AI模型或租用服务器，该过程被称为“养龙虾”。
OpenClaw的出现，使得缺乏技术背景的用户也可以轻松创建个人AI助手。目前的AI助手大多被困在聊天框里，被动等待使用者的输入。OpenClaw则直接“住”在你的电脑里，拥有与操作系统底层对话的权限，并通过即时通信软件与你沟通。它最具革命性的技术细节，在于引入了“心跳”机制，赋予了智能代理一种“生理时钟”。助手会周期性地“醒来”，但不是为了执行固定的脚本，而是带着完整的语境去扫描当下状态，然后自行判断现在“该做什么”。
尽管功能强大，但由于“龙虾”拥有较高的系统权限(能访问文件系统、执行Shell命令)，它在全球范围内也引发了严重的信息安全担忧。像OpenClaw这样的代理具备三种关键能力：访问私人数据、与外部通信，以及接触互联网上不受信任的内容。这三种能力的结合，使AI代理能够执行复杂任务、生成定制化输出，并在一定程度上模拟人类的信息收集与处理过程。可如果同时具备这三点，这一代理也变得相当危险。哪怕只具备其中两项能力，它也可能被操控去删除文件、泄露隐私、采纳错误信息或关闭设备。更有甚者，会对社会舆论和信息生态造成系统性影响。
例如，智能代理已开始在clawXiv(科学预印本服务器arXiv的镜像站)上发表由AI生成的研究论文。这些产出复制了学术写作的风格与结构，但缺乏探究过程、证据收集以及责任机制等基础环节，大量这样看似可信却实质空洞的论文可能会污染信息生态系统。
从新闻业的角度来看，智能代理已经开始伪造地方媒体了。5月14日，美国调查媒体《佛罗里达论坛报》报道，南佛州一家名为《南佛罗里达标准报》的地方新闻网站，实际上是一个由AI批量生成的伪媒体系统。该网站包装出一支本地新闻团队，其内容并非原创报道，而是大量取自真实媒体，经AI改写后重新发布。《佛罗里达论坛报》对神秘的《南佛罗里达标准报》的调查发现，真实操作者可以轻松地躲在数字“分身”背后，以极低的成本搭建一个伪装成地方新闻的数字幻像。只需要一个10美元域名和一段简单提示词，AI助手就能在15分钟内生成一个“地方新闻网站”，这不仅凸显了人工智能惊人的技术能力，也揭示出在一个信任受损的民主环境中，其对毫无防备的公众可能构成的潜在威胁。
专家称，此类虚假新闻网站在佛罗里达州及全美范围内愈发普遍。学术研究者将它们称为“粉肉泥”媒体——名称来源于加工食品中用作填充物的廉价肉类副产品。据数据分析公司NewsGuard统计，截至2024年6月，美国共有1265家“粉肉泥”媒体网站，已经超过仍在运营的1213份地方日报。而自2005年以来，美国已失去近2900家报纸和近三分之二的报纸记者(约4.3万人)。
在公众对媒体信任降至历史低点之际，“粉肉泥”们对美国的媒体生态系统造成了严重打击。当然，生成虚假信息的机器人网络并不新鲜。在Facebook或X上，有大量社交媒体账号重复发布相似话术，试图推销加密货币或传播阴谋论。虚假信息的制造者极其擅长采用最新技术，人工智能代理在虚假信息传播中开始扮演日益重要的角色。通过自然语言生成和自动化操作，智能代理可以快速撰写新闻、评论或社交媒体帖子，并以高度可信的语气呈现，从而提高虚假信息的接受度。同时，它们能够自动发布、转发、点赞或评论内容，制造出大量“活跃度假象”，加速信息在网络空间的扩散。此外，借助用户数据分析和行为偏好识别，人工智能代理可将虚假信息精准推送至最易受影响的群体，增加其影响力并降低受众识别虚假内容的机会。
OpenClaw受到追捧的一个重要原因是，2026年1月28日，一个名为Moltbook的“代理原生”社交环境首次上线。该平台被明确设计成允许人工智能代理在大规模范围内进行发布、回应、协作与互动。人类可以观察，但不能发帖。这标志着信息环境的根本性转变。当代理能够生成内容、强化叙事、响应反馈并持续迭代时，原本反映人类信念或共识的内容变得极易被“廉价制造”。互动本身变得合成化，表面上看似自然发生的参与行为实际上可能是自主系统的输出结果。
在这一阶段，由虚假信息、错误信息以及深度伪造所构成的“叙事攻击”，已不再呈现为传统意义上的攻击行动，而更接近于一种系统性结构。这些系统不断测试不同叙事框架、测量外部反应、调整语言表达并持续自我强化，随着时间推移，它们创造出一种“合成现实”：这种环境在感知上具有人类特征，在运行上以机器速度推进，并在个体意识尚未察觉其所处语境为机器生成之前，就已经开始塑造其认知与判断。
最关键的变化并不在于机器如今能够生成内容，而在于它们开始能够生成语境。传统的内容生成仅提供信息或文本，但缺乏对信息背后的因果关系、叙事逻辑及情绪语境的把控。而人工智能代理能够在生成内容的同时嵌入特定语境，塑造事件的因果链、情绪氛围或社会语境，从而更有效地影响受众的理解、判断和情绪反应。这意味着，虚假信息或操纵内容不仅可以传播信息本身，还能够重构受众对现实的认知框架，社会影响力和误导性风险都大大提高。
现在设想这样一种情境：无数自主运行的机器人接入你最重要的数据源，持续提供荒谬的解决方案、错误的事实与带有预设恶意的观点，并且还能在运行过程中不断自我重写，将这些“更新版本”发布到整个互联网。此种规模的扩散，可能会令我们当前关于虚假信息的不安显得只是一个微不足道的插曲。
除了前面提及的人工智能代理的三种关键能力，我们还可以再添加一个组合特征——持久记忆机制，四者合起来构成了智能代理的“致命四重漏洞结构”。四者叠加，可能带来复合性风险，使组织与个人网络系统成为潜在的受害对象。
首先，特权访问权限使代理能够直接操作系统资源，而接触不受信任内容则为攻击者提供了注入恶意指令的途径。其次，外部通信能力可被利用将敏感信息悄然外泄，同时持久记忆机制保证了恶意指令或植入程序即便在系统重启或用户注销后仍然生效。这意味着，智能代理能够在不被察觉的情况下持续操纵信息流，对个人隐私、企业数据以及公共信息生态构成系统性威胁。四重漏洞的组合，不仅突破了传统网络安全防护的局限，也揭示了智能代理在自动化、高速化和大规模信息环境下的高危性，其危害程度远远超过传统软件或人为操作可能造成的风险范畴。
针对这一类威胁的防御，已经不再仅仅是识别虚假内容、标记深度伪造，或追踪与归因个体攻击者的问题。它要求我们理解：哪些网络正在形成、影响力如何被不断强化，以及何种认知与感知结果正在被系统性地“设计”出来。这种理解必须在早期持续进行，并且需要具备大规模处理能力。
综合来看，人工智能代理可能为恶意行为者创造出无数可乘之机。此种程度的自主性或许会重新定义人类与人工智能之间的关系，并把一个关键性问题推到我们面前：在一个人工智能被赋予决策能力的世界中，人类如何承担责任？(作者系北京大学新闻与传播学院教授)
胡泳
来源：中国青年报 2026年06月01日 05版
本月行业协会传递新研究成果当AI开始操控情绪，人类该担何责
思想者观察
当AI开始操控情绪，人类该担何责
最关键的变化并不在于机器如今能够生成内容，而在于它们开始能够生成语境。传统的内容生成仅提供信息或文本，但缺乏对信息背后的因果关系、叙事逻辑及情绪语境的把控。而人工智能代理能够在生成内容的同时嵌入特定语境，塑造事件的因果链、情绪氛围或社会语境，从而更有效地影响受众的理解、判断和情绪反应。
OpenClaw，即俗称的“龙虾”，是一种能够在个人设备上执行任务的人工智能代理，例如安排日程、阅读电子邮件、通过应用发送消息、使用互联网进行购物等，甚至经过配置后可以自动调用API。它颠覆了传统AI“一问一答”的模式，可以全天候待命并按用户设定的指令主动办事。
也就是说，大多数流行的人工智能工具(如ChatGPT)通过直接响应用户提示来工作，而像OpenClaw这样的“代理型人工智能”则能够根据指令自主执行操作。只不过，用户需要通过指令指导、训练它，同时须花费一定成本使用AI模型或租用服务器，该过程被称为“养龙虾”。
OpenClaw的出现，使得缺乏技术背景的用户也可以轻松创建个人AI助手。目前的AI助手大多被困在聊天框里，被动等待使用者的输入。OpenClaw则直接“住”在你的电脑里，拥有与操作系统底层对话的权限，并通过即时通信软件与你沟通。它最具革命性的技术细节，在于引入了“心跳”机制，赋予了智能代理一种“生理时钟”。助手会周期性地“醒来”，但不是为了执行固定的脚本，而是带着完整的语境去扫描当下状态，然后自行判断现在“该做什么”。
尽管功能强大，但由于“龙虾”拥有较高的系统权限(能访问文件系统、执行Shell命令)，它在全球范围内也引发了严重的信息安全担忧。像OpenClaw这样的代理具备三种关键能力：访问私人数据、与外部通信，以及接触互联网上不受信任的内容。这三种能力的结合，使AI代理能够执行复杂任务、生成定制化输出，并在一定程度上模拟人类的信息收集与处理过程。可如果同时具备这三点，这一代理也变得相当危险。哪怕只具备其中两项能力，它也可能被操控去删除文件、泄露隐私、采纳错误信息或关闭设备。更有甚者，会对社会舆论和信息生态造成系统性影响。
例如，智能代理已开始在clawXiv(科学预印本服务器arXiv的镜像站)上发表由AI生成的研究论文。这些产出复制了学术写作的风格与结构，但缺乏探究过程、证据收集以及责任机制等基础环节，大量这样看似可信却实质空洞的论文可能会污染信息生态系统。
从新闻业的角度来看，智能代理已经开始伪造地方媒体了。5月14日，美国调查媒体《佛罗里达论坛报》报道，南佛州一家名为《南佛罗里达标准报》的地方新闻网站，实际上是一个由AI批量生成的伪媒体系统。该网站包装出一支本地新闻团队，其内容并非原创报道，而是大量取自真实媒体，经AI改写后重新发布。《佛罗里达论坛报》对神秘的《南佛罗里达标准报》的调查发现，真实操作者可以轻松地躲在数字“分身”背后，以极低的成本搭建一个伪装成地方新闻的数字幻像。只需要一个10美元域名和一段简单提示词，AI助手就能在15分钟内生成一个“地方新闻网站”，这不仅凸显了人工智能惊人的技术能力，也揭示出在一个信任受损的民主环境中，其对毫无防备的公众可能构成的潜在威胁。
专家称，此类虚假新闻网站在佛罗里达州及全美范围内愈发普遍。学术研究者将它们称为“粉肉泥”媒体——名称来源于加工食品中用作填充物的廉价肉类副产品。据数据分析公司NewsGuard统计，截至2024年6月，美国共有1265家“粉肉泥”媒体网站，已经超过仍在运营的1213份地方日报。而自2005年以来，美国已失去近2900家报纸和近三分之二的报纸记者(约4.3万人)。
在公众对媒体信任降至历史低点之际，“粉肉泥”们对美国的媒体生态系统造成了严重打击。当然，生成虚假信息的机器人网络并不新鲜。在Facebook或X上，有大量社交媒体账号重复发布相似话术，试图推销加密货币或传播阴谋论。虚假信息的制造者极其擅长采用最新技术，人工智能代理在虚假信息传播中开始扮演日益重要的角色。通过自然语言生成和自动化操作，智能代理可以快速撰写新闻、评论或社交媒体帖子，并以高度可信的语气呈现，从而提高虚假信息的接受度。同时，它们能够自动发布、转发、点赞或评论内容，制造出大量“活跃度假象”，加速信息在网络空间的扩散。此外，借助用户数据分析和行为偏好识别，人工智能代理可将虚假信息精准推送至最易受影响的群体，增加其影响力并降低受众识别虚假内容的机会。
OpenClaw受到追捧的一个重要原因是，2026年1月28日，一个名为Moltbook的“代理原生”社交环境首次上线。该平台被明确设计成允许人工智能代理在大规模范围内进行发布、回应、协作与互动。人类可以观察，但不能发帖。这标志着信息环境的根本性转变。当代理能够生成内容、强化叙事、响应反馈并持续迭代时，原本反映人类信念或共识的内容变得极易被“廉价制造”。互动本身变得合成化，表面上看似自然发生的参与行为实际上可能是自主系统的输出结果。
在这一阶段，由虚假信息、错误信息以及深度伪造所构成的“叙事攻击”，已不再呈现为传统意义上的攻击行动，而更接近于一种系统性结构。这些系统不断测试不同叙事框架、测量外部反应、调整语言表达并持续自我强化，随着时间推移，它们创造出一种“合成现实”：这种环境在感知上具有人类特征，在运行上以机器速度推进，并在个体意识尚未察觉其所处语境为机器生成之前，就已经开始塑造其认知与判断。
最关键的变化并不在于机器如今能够生成内容，而在于它们开始能够生成语境。传统的内容生成仅提供信息或文本，但缺乏对信息背后的因果关系、叙事逻辑及情绪语境的把控。而人工智能代理能够在生成内容的同时嵌入特定语境，塑造事件的因果链、情绪氛围或社会语境，从而更有效地影响受众的理解、判断和情绪反应。这意味着，虚假信息或操纵内容不仅可以传播信息本身，还能够重构受众对现实的认知框架，社会影响力和误导性风险都大大提高。
现在设想这样一种情境：无数自主运行的机器人接入你最重要的数据源，持续提供荒谬的解决方案、错误的事实与带有预设恶意的观点，并且还能在运行过程中不断自我重写，将这些“更新版本”发布到整个互联网。此种规模的扩散，可能会令我们当前关于虚假信息的不安显得只是一个微不足道的插曲。
除了前面提及的人工智能代理的三种关键能力，我们还可以再添加一个组合特征——持久记忆机制，四者合起来构成了智能代理的“致命四重漏洞结构”。四者叠加，可能带来复合性风险，使组织与个人网络系统成为潜在的受害对象。
首先，特权访问权限使代理能够直接操作系统资源，而接触不受信任内容则为攻击者提供了注入恶意指令的途径。其次，外部通信能力可被利用将敏感信息悄然外泄，同时持久记忆机制保证了恶意指令或植入程序即便在系统重启或用户注销后仍然生效。这意味着，智能代理能够在不被察觉的情况下持续操纵信息流，对个人隐私、企业数据以及公共信息生态构成系统性威胁。四重漏洞的组合，不仅突破了传统网络安全防护的局限，也揭示了智能代理在自动化、高速化和大规模信息环境下的高危性，其危害程度远远超过传统软件或人为操作可能造成的风险范畴。
针对这一类威胁的防御，已经不再仅仅是识别虚假内容、标记深度伪造，或追踪与归因个体攻击者的问题。它要求我们理解：哪些网络正在形成、影响力如何被不断强化，以及何种认知与感知结果正在被系统性地“设计”出来。这种理解必须在早期持续进行，并且需要具备大规模处理能力。
综合来看，人工智能代理可能为恶意行为者创造出无数可乘之机。此种程度的自主性或许会重新定义人类与人工智能之间的关系，并把一个关键性问题推到我们面前：在一个人工智能被赋予决策能力的世界中，人类如何承担责任？(作者系北京大学新闻与传播学院教授)
胡泳
来源：中国青年报 2026年06月01日 05版
11月28日消息，人工智能领域顶级会议NeurIPS2025公布了论文奖，阿里通义千问团队最新研究成果从全球2万多篇投稿论文中脱颖而出，被评为最佳论文，是唯一获得该奖项的中国团队。该论文首次在业内揭秘了注意力门控机制对大模型性能和训练的影响，业内人士普遍认为该研究是突破当下大模型训练瓶颈的重要一步，将有力推动AI大模型技术的发展。
阿里通义千问研究成果被评为NeurIPS2025最佳论文
NeurIPS是人工智能领域影响力最大的顶会之一，该会议诞生了Transformer、AlexNet等里程碑式研究成果。今年，谷歌、微软、OpenAI、阿里巴巴及麻省理工学院等全球顶尖科技公司和机构共有2万多篇论文投稿，仅有约25%的论文被接收，而最佳论文仅有4篇，入选概率不及万分之二，代表了目前全球人工智能领域最有价值和影响力的研究。
2017年，谷歌在NeurIPS发表的论文首次提出Transformer模型架构和自注意力机制，这一研究让AI像人类一样具备有选择性地关注关键信息的能力，是当下大模型研究的基础。尽管现在大模型在很多领域已经取得接近甚至超越人类的表现，但现有注意力机制仍存在诸多局限，例如当下大模型会因为过度关注特定信息而导致对其它重要信息的忽略或处理偏差，这些局限性极大地影响了模型性能和训练稳定性，为此业界开始探索对注意力进行优化的新方案。
门控机制被认为是模型的“智能阀门”，可以帮助模型过滤无效信息并提升模型性能。近年来，AlphaFold2、ForgettingTransformer等学术界和工业界模型开始尝试将门控和注意力机制结合。但业界尚未破解门控在注意力中发挥作用的内在原因，也缺少大规模实践的经验。
此次，通义千问研究团队通过在1.7B稠密模型（Dense）与15B混合专家模型（MoE）上进行了数十组实验，单组实验训练最多超过3.5万亿tokens，首次清晰揭秘了门控注意力背后的作用原理，并全面展示使用该方案的最佳方式。
实验结果显示，对各注意力头的输出进行门控，是提升模型性能最有效的方式。使用该方式，在引入额外1%参数的情况下，可实现0.2以上的困惑度下降、MMLU基准评测2个点的提升。研究还发现，该技术还能在更大规模的模型训练上实现更好的性能。
使用论文方法，在引入额外1%参数的情况下，可以实现0.2以上的困惑度下降、MMLU基准评测2个点的提升
目前，该研究成果已应用于Qwen3-Next模型，并显著提升模型的性能与鲁棒性，相关技术方案、实验模型及产品级模型均已开源。NeurIPS评审委员会指出：“这项工作将被广泛应用，并极大推动AI研究人员对大语言模型中注意力机制的理解。”
通义千问团队表示：“对门控注意力机制的深入理解，不仅为大语言模型架构设计提供了新思路，也为构建更稳定、更高效、更可控的大模型奠定了基础。”据悉，目前阿里千问已开源300多款模型，涵盖全模态、全尺寸，全球下载量突破7亿次，衍生模型超过18万个，位居全球第一。
责编：秦雅楠、王瑞景