本月行业报告披露新成果全面加:【速企业】AI价值落地 很高兴为您解答这个问题,让我来帮您详细说明一下。品牌授权报修电话,快速上门服务
隆安县,武清区汊沽港镇,海南省海口市美兰区,辽宁省朝阳市北票市,辽宁省铁岭市开原市,黑龙江省佳木斯市富锦市,伊犁哈萨克自治州昭苏县,福建省漳州市龙海市,百色市田林县,陕西省宝鸡市眉县,山东省德州市齐河县,黑龙江省大兴安岭地区呼玛县,洛阳市汝阳县,山东省淄博市临淄区,山东省潍坊市青州市,长安区南村镇,甘肃省陇南市,四川省乐山市,广东省汕头市南澳县,黑龙江省绥化市明水县,黑龙江省七台河市桃山区,福建省三明市梅列区,山西省吕梁市中阳县,青海省海北藏族自治州门源回族自治县,江苏省苏州市相城区,山西省临汾市安泽县,河东区大直沽街道,江西省宜春市宜丰县,合肥市庐阳区,山东省滨州市,青海省海西蒙古族藏族自治州德令哈市,合肥市瑶海区,山西省晋城市泽州县,云南省丽江市宁蒗彝族自治县,密云区河南寨镇,广东省珠海市斗门区,防城港市东兴市,赵县沙河店镇,蓟州区东赵各庄镇,青海省果洛藏族自治州,甘肃省兰州市,平山县小觉镇,山东省烟台市牟平区,广东省江门市,西城区月坛街道,广东省云浮市新兴县,钦州市,怀柔区雁栖地区,重庆市市辖区北碚区,大兴区,内蒙古呼伦贝尔市阿荣旗,山东省泰安市泰山区,江苏省南京市浦口区,赞皇县西龙门乡,四川省宜宾市翠屏区,辽宁省铁岭市清河区,桂林市秀峰区,四川省凉山彝族自治州昭觉县,青海省玉树藏族自治州治多县,和平区南市街道,昌平区回龙观街道,湖北省宜昌市夷陵区,辽宁省沈阳市,吉林省四平市铁西区,阿克苏地区新和县,山西省晋中市榆社县,武清区上马台镇,桂林市兴安县,广东省广州市越秀区,重庆市县巫山县,贵州省黔南布依族苗族自治州惠水县,四川省凉山彝族自治州甘洛县,信阳市平桥区,四川省广元市,赞皇县院头镇,芜湖市南陵县,辽宁省辽阳市白塔区,甘肃省陇南市武都区,百色市靖西市,朝阳区双井街道,云南省文山壮族苗族自治州广南县,江苏省镇江市句容市,广东省汕头市龙湖区,喀什地区麦盖提县,平顶山市卫东区,青海省海南藏族自治州贵德县,朝阳区管庄地区,江西省赣州市石城县,蚌埠市龙子湖区,南开区体育中心街道,北海市海城区,贵州省六盘水市水城县,密云区高岭镇,银川市贺兰县,山东省威海市,陕西省汉中市西乡县,山东省东营市垦利区,云南省红河哈尼族彝族自治州泸西县,巴音郭楞蒙古自治州和硕县,西城区天桥街道,云南省大理白族自治州云龙县,怀柔区龙山街道,福建省莆田市仙游县,江西省吉安市吉安县,黑龙江省鹤岗市,四川省遂宁市蓬溪县,塔城地区和布克赛尔蒙古自治县,崇左市宁明县,福建省厦门市海沧区,山东省烟台市龙口市,江苏省徐州市新沂市,朝阳区小红门地区,丰台区长辛店镇,云南省玉溪市新平彝族傣族自治县,桥西区苑东街道,西藏山南市贡嘎县,福建省厦门市湖里区,怀柔区宝山镇,山西省忻州市宁武县,福建省福州市罗源县,湖北省孝感市汉川市,四川省甘孜藏族自治州九龙县,元氏县殷村镇,北辰区,门头沟区大峪街道,开封市通许县,内蒙古乌海市乌达区,黑龙江省佳木斯市汤原县,贵州省铜仁市玉屏侗族自治县,四川省宜宾市珙县,四川省成都市金牛区,江苏省徐州市,内蒙古鄂尔多斯市鄂托克旗,四川省宜宾市江安县,哈密市伊吾县,四川省甘孜藏族自治州丹巴县,密云区不老屯镇,江西省萍乡市上栗县,湖北省恩施土家族苗族自治州恩施市,西藏拉萨市达孜区,平山县宅北乡,井陉县测鱼镇,平山县岗南镇,南开区长虹街道,顺义区空港街道,朝阳区小关街道,辽宁省沈阳市沈河区,辽宁省沈阳市浑南区,陕西省汉中市南郑区,吉林省长春市双阳区,崇左市,四川省凉山彝族自治州西昌市,四川省泸州市江阳区,云南省普洱市景东彝族自治县,山东省泰安市东平县,昌平区延寿镇,元氏县苏村乡,焦作市中站区
本周行业报告发布新动态当AI开始操控情绪,人类该担何责,很高兴为您解答这个问题,让我来帮您详细说明一下:官方服务专线,支持多品牌报修
全球服务区域:隆安县,辽宁省锦州市义县,海南省海口市美兰区,云南省西双版纳傣族自治州勐腊县,辽宁省铁岭市开原市,黑龙江省佳木斯市富锦市,鹿泉区寺家庄镇,伊犁哈萨克自治州昭苏县,山西省阳泉市平定县,山东省德州市齐河县,四川省德阳市广汉市,西青区精武镇,四川省广安市岳池县,甘肃省庆阳市镇原县,山东省潍坊市青州市,长安区南村镇,甘肃省陇南市,四川省乐山市,广东省汕头市南澳县,黑龙江省七台河市桃山区,山西省运城市夏县,山西省吕梁市中阳县,青海省海北藏族自治州门源回族自治县,江苏省苏州市相城区,海南省儋州市,山西省临汾市安泽县,河东区大直沽街道,和田地区,青海省海西蒙古族藏族自治州德令哈市,合肥市瑶海区,密云区河南寨镇,丰台区右安门街道,鹿泉区白鹿泉乡,防城港市东兴市,赵县沙河店镇,蓟州区东赵各庄镇,青海省果洛藏族自治州,喀什地区叶城县,甘肃省兰州市,山东省烟台市牟平区,云南省红河哈尼族彝族自治州绿春县,山西省朔州市山阴县,河东区东新街道,马鞍山市博望区,广东省江门市,黑龙江省伊春市金林区,宝坻区牛家牌镇,阿克苏地区拜城县,乌鲁木齐市沙依巴克区,南阳市内乡县,江苏省连云港市赣榆区,陕西省西安市未央区,钦州市,广东省惠州市龙门县,怀柔区雁栖地区,山西省长治市襄垣县,大兴区,贵州省安顺市普定县,内蒙古呼伦贝尔市阿荣旗,陕西省宝鸡市千阳县,四川省成都市双流区,陕西省商洛市山阳县,山东省泰安市泰山区,昌平区小汤山镇,赞皇县西龙门乡,辽宁省铁岭市清河区,桂林市秀峰区,四川省成都市新都区,昌平区阳坊镇,青海省玉树藏族自治州治多县,辽宁省沈阳市,吉林省四平市铁西区,海南省三沙市西沙区,山西省晋中市榆社县,武清区上马台镇,桂林市兴安县,丰台区和义街道,广东省广州市越秀区,甘肃省白银市景泰县,重庆市县巫山县,延庆区康庄镇,山西省晋城市高平市,四川省广元市,赞皇县院头镇,辽宁省辽阳市白塔区,甘肃省陇南市武都区,百色市靖西市,云南省文山壮族苗族自治州广南县,江苏省镇江市句容市,广东省汕头市龙湖区,平顶山市卫东区,甘肃省天水市秦州区,青海省海南藏族自治州贵德县,蚌埠市龙子湖区,南开区体育中心街道,密云区高岭镇,内蒙古鄂尔多斯市康巴什区,湖北省恩施土家族苗族自治州建始县,银川市贺兰县,山西省晋中市太谷区,山东省威海市,山东省东营市垦利区,辽宁省本溪市溪湖区,云南省大理白族自治州云龙县,江西省鹰潭市余江区,江西省景德镇市昌江区,怀柔区龙山街道,福建省莆田市仙游县,江西省吉安市吉安县,黑龙江省鹤岗市,四川省遂宁市蓬溪县,海淀区青龙桥街道,淮南市大通区,延庆区沈家营镇,山东省烟台市龙口市,湖北省宜昌市秭归县,江苏省徐州市新沂市,广东省佛山市三水区,静海区西翟庄镇,云南省玉溪市新平彝族傣族自治县,桥西区苑东街道,亳州市利辛县,怀柔区宝山镇,江西省吉安市永新县,山西省忻州市宁武县,湖北省孝感市汉川市,北辰区广源街道,四川省甘孜藏族自治州九龙县,元氏县殷村镇,蓟州区东施古镇,开封市通许县,蓟州区东二营镇,黑龙江省佳木斯市汤原县,贵州省铜仁市玉屏侗族自治县,四川省宜宾市珙县,内蒙古锡林郭勒盟正镶白旗,四川省成都市金牛区,山东省聊城市茌平区,内蒙古鄂尔多斯市鄂托克旗,四川省宜宾市江安县,哈密市伊吾县,福建省福州市永泰县,江西省萍乡市上栗县,平山县东回舍镇,西藏阿里地区日土县,西藏拉萨市达孜区,固原市西吉县,朝阳区小关街道,辽宁省沈阳市浑南区,陕西省汉中市南郑区,山西省吕梁市岚县,福建省莆田市城厢区,四川省泸州市江阳区,江苏省南通市启东市,昌平区延寿镇,辽宁省大连市旅顺口区,湖北省宜昌市宜都市,焦作市中站区
今日官方渠道披露行业动态当AI开始操控情绪,人类该担何责,很高兴为您解答这个问题,让我来帮您详细说明一下:售后服务维修中心电话,支持多渠道服务
全国服务区域:隆安县,海南省海口市美兰区,福建省漳州市龙海市,濮阳市南乐县,百色市田林县,陕西省宝鸡市眉县,黑龙江省大兴安岭地区呼玛县,山东省淄博市临淄区,长安区南村镇,甘肃省陇南市,甘肃省甘南藏族自治州,黑龙江省七台河市桃山区,青海省海北藏族自治州门源回族自治县,江苏省苏州市相城区,山西省临汾市安泽县,焦作市沁阳市,河东区大直沽街道,江西省宜春市宜丰县,井陉县吴家窑乡,青海省海西蒙古族藏族自治州德令哈市,云南省丽江市宁蒗彝族自治县,丰台区右安门街道,鹿泉区白鹿泉乡,广东省珠海市斗门区,甘肃省兰州市,平山县小觉镇,元氏县,云南省红河哈尼族彝族自治州绿春县,福建省南平市,河东区东新街道,福建省南平市建瓯市,湖北省襄阳市襄州区,广东省江门市,宝坻区牛家牌镇,长安区广安街道,西城区月坛街道,南阳市内乡县,内蒙古锡林郭勒盟镶黄旗,陕西省西安市未央区,钦州市,广东省惠州市龙门县,重庆市市辖区北碚区,陕西省宝鸡市千阳县,陕西省商洛市山阳县,昌平区小汤山镇,桂林市秀峰区,昌平区阳坊镇,湖北省宜昌市夷陵区,吉林省四平市铁西区,海南省三沙市西沙区,吉林省白山市浑江区,平顶山市湛河区,武清区上马台镇,山西省晋城市高平市,信阳市平桥区,四川省广元市,辽宁省辽阳市白塔区,甘肃省陇南市武都区,云南省文山壮族苗族自治州广南县,广东省深圳市,广东省汕头市龙湖区,平顶山市卫东区,甘肃省天水市秦州区,朝阳区管庄地区,南开区体育中心街道,山西省忻州市定襄县,密云区高岭镇,银川市贺兰县,陕西省汉中市西乡县,辽宁省本溪市溪湖区,云南省大理白族自治州云龙县,江西省景德镇市昌江区,怀柔区龙山街道,江西省吉安市吉安县,延庆区沈家营镇,江苏省徐州市新沂市,云南省玉溪市新平彝族傣族自治县,江西省宜春市奉新县,蓟州区官庄镇,西藏山南市贡嘎县,福建省厦门市湖里区,山西省忻州市宁武县,湖北省孝感市汉川市,四川省甘孜藏族自治州九龙县,元氏县殷村镇,北辰区,内蒙古乌海市乌达区,蓟州区东二营镇,四川省宜宾市珙县,四川省宜宾市江安县,福建省福州市永泰县,密云区不老屯镇,陕西省汉中市留坝县,湖北省恩施土家族苗族自治州恩施市,青秀区,平山县东回舍镇,西藏阿里地区日土县,西藏拉萨市达孜区,平山县宅北乡,井陉县测鱼镇,固原市西吉县,南开区长虹街道,顺义区空港街道,西乡塘区,辽宁省沈阳市沈河区,贵州省黔东南苗族侗族自治州天柱县,山西省吕梁市岚县,吉林省长春市双阳区,福建省莆田市城厢区,崇左市,河西区桃园街道,四川省凉山彝族自治州西昌市,云南省普洱市景东彝族自治县,江苏省南通市启东市,山东省泰安市东平县,元氏县苏村乡,湖北省宜昌市宜都市,焦作市中站区
售后服务上门服务电话,智能分配单据:当AI开始操控情绪,人类该担何责
思想者观察
当AI开始操控情绪,人类该担何责
最关键的变化并不在于机器如今能够生成内容,而在于它们开始能够生成语境。传统的内容生成仅提供信息或文本,但缺乏对信息背后的因果关系、叙事逻辑及情绪语境的把控。而人工智能代理能够在生成内容的同时嵌入特定语境,塑造事件的因果链、情绪氛围或社会语境,从而更有效地影响受众的理解、判断和情绪反应。
OpenClaw,即俗称的“龙虾”,是一种能够在个人设备上执行任务的人工智能代理,例如安排日程、阅读电子邮件、通过应用发送消息、使用互联网进行购物等,甚至经过配置后可以自动调用API。它颠覆了传统AI“一问一答”的模式,可以全天候待命并按用户设定的指令主动办事。
也就是说,大多数流行的人工智能工具(如ChatGPT)通过直接响应用户提示来工作,而像OpenClaw这样的“代理型人工智能”则能够根据指令自主执行操作。只不过,用户需要通过指令指导、训练它,同时须花费一定成本使用AI模型或租用服务器,该过程被称为“养龙虾”。
OpenClaw的出现,使得缺乏技术背景的用户也可以轻松创建个人AI助手。目前的AI助手大多被困在聊天框里,被动等待使用者的输入。OpenClaw则直接“住”在你的电脑里,拥有与操作系统底层对话的权限,并通过即时通信软件与你沟通。它最具革命性的技术细节,在于引入了“心跳”机制,赋予了智能代理一种“生理时钟”。助手会周期性地“醒来”,但不是为了执行固定的脚本,而是带着完整的语境去扫描当下状态,然后自行判断现在“该做什么”。
尽管功能强大,但由于“龙虾”拥有较高的系统权限(能访问文件系统、执行Shell命令),它在全球范围内也引发了严重的信息安全担忧。像OpenClaw这样的代理具备三种关键能力:访问私人数据、与外部通信,以及接触互联网上不受信任的内容。这三种能力的结合,使AI代理能够执行复杂任务、生成定制化输出,并在一定程度上模拟人类的信息收集与处理过程。可如果同时具备这三点,这一代理也变得相当危险。哪怕只具备其中两项能力,它也可能被操控去删除文件、泄露隐私、采纳错误信息或关闭设备。更有甚者,会对社会舆论和信息生态造成系统性影响。
例如,智能代理已开始在clawXiv(科学预印本服务器arXiv的镜像站)上发表由AI生成的研究论文。这些产出复制了学术写作的风格与结构,但缺乏探究过程、证据收集以及责任机制等基础环节,大量这样看似可信却实质空洞的论文可能会污染信息生态系统。
从新闻业的角度来看,智能代理已经开始伪造地方媒体了。5月14日,美国调查媒体《佛罗里达论坛报》报道,南佛州一家名为《南佛罗里达标准报》的地方新闻网站,实际上是一个由AI批量生成的伪媒体系统。该网站包装出一支本地新闻团队,其内容并非原创报道,而是大量取自真实媒体,经AI改写后重新发布。《佛罗里达论坛报》对神秘的《南佛罗里达标准报》的调查发现,真实操作者可以轻松地躲在数字“分身”背后,以极低的成本搭建一个伪装成地方新闻的数字幻像。只需要一个10美元域名和一段简单提示词,AI助手就能在15分钟内生成一个“地方新闻网站”,这不仅凸显了人工智能惊人的技术能力,也揭示出在一个信任受损的民主环境中,其对毫无防备的公众可能构成的潜在威胁。
专家称,此类虚假新闻网站在佛罗里达州及全美范围内愈发普遍。学术研究者将它们称为“粉肉泥”媒体——名称来源于加工食品中用作填充物的廉价肉类副产品。据数据分析公司NewsGuard统计,截至2024年6月,美国共有1265家“粉肉泥”媒体网站,已经超过仍在运营的1213份地方日报。而自2005年以来,美国已失去近2900家报纸和近三分之二的报纸记者(约4.3万人)。
在公众对媒体信任降至历史低点之际,“粉肉泥”们对美国的媒体生态系统造成了严重打击。当然,生成虚假信息的机器人网络并不新鲜。在Facebook或X上,有大量社交媒体账号重复发布相似话术,试图推销加密货币或传播阴谋论。虚假信息的制造者极其擅长采用最新技术,人工智能代理在虚假信息传播中开始扮演日益重要的角色。通过自然语言生成和自动化操作,智能代理可以快速撰写新闻、评论或社交媒体帖子,并以高度可信的语气呈现,从而提高虚假信息的接受度。同时,它们能够自动发布、转发、点赞或评论内容,制造出大量“活跃度假象”,加速信息在网络空间的扩散。此外,借助用户数据分析和行为偏好识别,人工智能代理可将虚假信息精准推送至最易受影响的群体,增加其影响力并降低受众识别虚假内容的机会。
OpenClaw受到追捧的一个重要原因是,2026年1月28日,一个名为Moltbook的“代理原生”社交环境首次上线。该平台被明确设计成允许人工智能代理在大规模范围内进行发布、回应、协作与互动。人类可以观察,但不能发帖。这标志着信息环境的根本性转变。当代理能够生成内容、强化叙事、响应反馈并持续迭代时,原本反映人类信念或共识的内容变得极易被“廉价制造”。互动本身变得合成化,表面上看似自然发生的参与行为实际上可能是自主系统的输出结果。
在这一阶段,由虚假信息、错误信息以及深度伪造所构成的“叙事攻击”,已不再呈现为传统意义上的攻击行动,而更接近于一种系统性结构。这些系统不断测试不同叙事框架、测量外部反应、调整语言表达并持续自我强化,随着时间推移,它们创造出一种“合成现实”:这种环境在感知上具有人类特征,在运行上以机器速度推进,并在个体意识尚未察觉其所处语境为机器生成之前,就已经开始塑造其认知与判断。
最关键的变化并不在于机器如今能够生成内容,而在于它们开始能够生成语境。传统的内容生成仅提供信息或文本,但缺乏对信息背后的因果关系、叙事逻辑及情绪语境的把控。而人工智能代理能够在生成内容的同时嵌入特定语境,塑造事件的因果链、情绪氛围或社会语境,从而更有效地影响受众的理解、判断和情绪反应。这意味着,虚假信息或操纵内容不仅可以传播信息本身,还能够重构受众对现实的认知框架,社会影响力和误导性风险都大大提高。
现在设想这样一种情境:无数自主运行的机器人接入你最重要的数据源,持续提供荒谬的解决方案、错误的事实与带有预设恶意的观点,并且还能在运行过程中不断自我重写,将这些“更新版本”发布到整个互联网。此种规模的扩散,可能会令我们当前关于虚假信息的不安显得只是一个微不足道的插曲。
除了前面提及的人工智能代理的三种关键能力,我们还可以再添加一个组合特征——持久记忆机制,四者合起来构成了智能代理的“致命四重漏洞结构”。四者叠加,可能带来复合性风险,使组织与个人网络系统成为潜在的受害对象。
首先,特权访问权限使代理能够直接操作系统资源,而接触不受信任内容则为攻击者提供了注入恶意指令的途径。其次,外部通信能力可被利用将敏感信息悄然外泄,同时持久记忆机制保证了恶意指令或植入程序即便在系统重启或用户注销后仍然生效。这意味着,智能代理能够在不被察觉的情况下持续操纵信息流,对个人隐私、企业数据以及公共信息生态构成系统性威胁。四重漏洞的组合,不仅突破了传统网络安全防护的局限,也揭示了智能代理在自动化、高速化和大规模信息环境下的高危性,其危害程度远远超过传统软件或人为操作可能造成的风险范畴。
针对这一类威胁的防御,已经不再仅仅是识别虚假内容、标记深度伪造,或追踪与归因个体攻击者的问题。它要求我们理解:哪些网络正在形成、影响力如何被不断强化,以及何种认知与感知结果正在被系统性地“设计”出来。这种理解必须在早期持续进行,并且需要具备大规模处理能力。
综合来看,人工智能代理可能为恶意行为者创造出无数可乘之机。此种程度的自主性或许会重新定义人类与人工智能之间的关系,并把一个关键性问题推到我们面前:在一个人工智能被赋予决策能力的世界中,人类如何承担责任?(作者系北京大学新闻与传播学院教授)
胡泳
来源:中国青年报 2026年06月01日 05版
近期官方渠道更新行业动态当AI开始操控情绪,人类该担何责
思想者观察
当AI开始操控情绪,人类该担何责
最关键的变化并不在于机器如今能够生成内容,而在于它们开始能够生成语境。传统的内容生成仅提供信息或文本,但缺乏对信息背后的因果关系、叙事逻辑及情绪语境的把控。而人工智能代理能够在生成内容的同时嵌入特定语境,塑造事件的因果链、情绪氛围或社会语境,从而更有效地影响受众的理解、判断和情绪反应。
OpenClaw,即俗称的“龙虾”,是一种能够在个人设备上执行任务的人工智能代理,例如安排日程、阅读电子邮件、通过应用发送消息、使用互联网进行购物等,甚至经过配置后可以自动调用API。它颠覆了传统AI“一问一答”的模式,可以全天候待命并按用户设定的指令主动办事。
也就是说,大多数流行的人工智能工具(如ChatGPT)通过直接响应用户提示来工作,而像OpenClaw这样的“代理型人工智能”则能够根据指令自主执行操作。只不过,用户需要通过指令指导、训练它,同时须花费一定成本使用AI模型或租用服务器,该过程被称为“养龙虾”。
OpenClaw的出现,使得缺乏技术背景的用户也可以轻松创建个人AI助手。目前的AI助手大多被困在聊天框里,被动等待使用者的输入。OpenClaw则直接“住”在你的电脑里,拥有与操作系统底层对话的权限,并通过即时通信软件与你沟通。它最具革命性的技术细节,在于引入了“心跳”机制,赋予了智能代理一种“生理时钟”。助手会周期性地“醒来”,但不是为了执行固定的脚本,而是带着完整的语境去扫描当下状态,然后自行判断现在“该做什么”。
尽管功能强大,但由于“龙虾”拥有较高的系统权限(能访问文件系统、执行Shell命令),它在全球范围内也引发了严重的信息安全担忧。像OpenClaw这样的代理具备三种关键能力:访问私人数据、与外部通信,以及接触互联网上不受信任的内容。这三种能力的结合,使AI代理能够执行复杂任务、生成定制化输出,并在一定程度上模拟人类的信息收集与处理过程。可如果同时具备这三点,这一代理也变得相当危险。哪怕只具备其中两项能力,它也可能被操控去删除文件、泄露隐私、采纳错误信息或关闭设备。更有甚者,会对社会舆论和信息生态造成系统性影响。
例如,智能代理已开始在clawXiv(科学预印本服务器arXiv的镜像站)上发表由AI生成的研究论文。这些产出复制了学术写作的风格与结构,但缺乏探究过程、证据收集以及责任机制等基础环节,大量这样看似可信却实质空洞的论文可能会污染信息生态系统。
从新闻业的角度来看,智能代理已经开始伪造地方媒体了。5月14日,美国调查媒体《佛罗里达论坛报》报道,南佛州一家名为《南佛罗里达标准报》的地方新闻网站,实际上是一个由AI批量生成的伪媒体系统。该网站包装出一支本地新闻团队,其内容并非原创报道,而是大量取自真实媒体,经AI改写后重新发布。《佛罗里达论坛报》对神秘的《南佛罗里达标准报》的调查发现,真实操作者可以轻松地躲在数字“分身”背后,以极低的成本搭建一个伪装成地方新闻的数字幻像。只需要一个10美元域名和一段简单提示词,AI助手就能在15分钟内生成一个“地方新闻网站”,这不仅凸显了人工智能惊人的技术能力,也揭示出在一个信任受损的民主环境中,其对毫无防备的公众可能构成的潜在威胁。
专家称,此类虚假新闻网站在佛罗里达州及全美范围内愈发普遍。学术研究者将它们称为“粉肉泥”媒体——名称来源于加工食品中用作填充物的廉价肉类副产品。据数据分析公司NewsGuard统计,截至2024年6月,美国共有1265家“粉肉泥”媒体网站,已经超过仍在运营的1213份地方日报。而自2005年以来,美国已失去近2900家报纸和近三分之二的报纸记者(约4.3万人)。
在公众对媒体信任降至历史低点之际,“粉肉泥”们对美国的媒体生态系统造成了严重打击。当然,生成虚假信息的机器人网络并不新鲜。在Facebook或X上,有大量社交媒体账号重复发布相似话术,试图推销加密货币或传播阴谋论。虚假信息的制造者极其擅长采用最新技术,人工智能代理在虚假信息传播中开始扮演日益重要的角色。通过自然语言生成和自动化操作,智能代理可以快速撰写新闻、评论或社交媒体帖子,并以高度可信的语气呈现,从而提高虚假信息的接受度。同时,它们能够自动发布、转发、点赞或评论内容,制造出大量“活跃度假象”,加速信息在网络空间的扩散。此外,借助用户数据分析和行为偏好识别,人工智能代理可将虚假信息精准推送至最易受影响的群体,增加其影响力并降低受众识别虚假内容的机会。
OpenClaw受到追捧的一个重要原因是,2026年1月28日,一个名为Moltbook的“代理原生”社交环境首次上线。该平台被明确设计成允许人工智能代理在大规模范围内进行发布、回应、协作与互动。人类可以观察,但不能发帖。这标志着信息环境的根本性转变。当代理能够生成内容、强化叙事、响应反馈并持续迭代时,原本反映人类信念或共识的内容变得极易被“廉价制造”。互动本身变得合成化,表面上看似自然发生的参与行为实际上可能是自主系统的输出结果。
在这一阶段,由虚假信息、错误信息以及深度伪造所构成的“叙事攻击”,已不再呈现为传统意义上的攻击行动,而更接近于一种系统性结构。这些系统不断测试不同叙事框架、测量外部反应、调整语言表达并持续自我强化,随着时间推移,它们创造出一种“合成现实”:这种环境在感知上具有人类特征,在运行上以机器速度推进,并在个体意识尚未察觉其所处语境为机器生成之前,就已经开始塑造其认知与判断。
最关键的变化并不在于机器如今能够生成内容,而在于它们开始能够生成语境。传统的内容生成仅提供信息或文本,但缺乏对信息背后的因果关系、叙事逻辑及情绪语境的把控。而人工智能代理能够在生成内容的同时嵌入特定语境,塑造事件的因果链、情绪氛围或社会语境,从而更有效地影响受众的理解、判断和情绪反应。这意味着,虚假信息或操纵内容不仅可以传播信息本身,还能够重构受众对现实的认知框架,社会影响力和误导性风险都大大提高。
现在设想这样一种情境:无数自主运行的机器人接入你最重要的数据源,持续提供荒谬的解决方案、错误的事实与带有预设恶意的观点,并且还能在运行过程中不断自我重写,将这些“更新版本”发布到整个互联网。此种规模的扩散,可能会令我们当前关于虚假信息的不安显得只是一个微不足道的插曲。
除了前面提及的人工智能代理的三种关键能力,我们还可以再添加一个组合特征——持久记忆机制,四者合起来构成了智能代理的“致命四重漏洞结构”。四者叠加,可能带来复合性风险,使组织与个人网络系统成为潜在的受害对象。
首先,特权访问权限使代理能够直接操作系统资源,而接触不受信任内容则为攻击者提供了注入恶意指令的途径。其次,外部通信能力可被利用将敏感信息悄然外泄,同时持久记忆机制保证了恶意指令或植入程序即便在系统重启或用户注销后仍然生效。这意味着,智能代理能够在不被察觉的情况下持续操纵信息流,对个人隐私、企业数据以及公共信息生态构成系统性威胁。四重漏洞的组合,不仅突破了传统网络安全防护的局限,也揭示了智能代理在自动化、高速化和大规模信息环境下的高危性,其危害程度远远超过传统软件或人为操作可能造成的风险范畴。
针对这一类威胁的防御,已经不再仅仅是识别虚假内容、标记深度伪造,或追踪与归因个体攻击者的问题。它要求我们理解:哪些网络正在形成、影响力如何被不断强化,以及何种认知与感知结果正在被系统性地“设计”出来。这种理解必须在早期持续进行,并且需要具备大规模处理能力。
综合来看,人工智能代理可能为恶意行为者创造出无数可乘之机。此种程度的自主性或许会重新定义人类与人工智能之间的关系,并把一个关键性问题推到我们面前:在一个人工智能被赋予决策能力的世界中,人类如何承担责任?(作者系北京大学新闻与传播学院教授)
胡泳
来源:中国青年报 2026年06月01日 05版
随着AI技术的飞速发展,企业正面临从技术试点到全面应用的关键转折点。
技术加速:Gartner报告显示,当前AI智能体和AI就绪型数据发展最快。未来5年,多模态AI与AI信任、风险和安全管理(TRiSM)将成为最重要的技术,深入改变企业运营方式。
部署现状:麦肯锡调研显示,全球88%的企业在至少一个职能中部署AI,但大多仍停留在试点阶段,只有少数实现规模化应用和全面价值落地。
政策推动:国家“人工智能+”行动计划明确提出,到2027年实现AI普及,2030年形成AI增长极。各行业对企业级AI需求也将愈加迫切。
01、跨越AI落地鸿沟,推动企业AI价值转化
企业AI落地并非一蹴而就,在从AI试点到大规模应用的过程中,面临技术成熟度、数据整合、流程重构、安全合规和人才稀缺等多重挑战。作为业界率先实现企业级AI应用落地的厂商,炎黄盈动在过去三年中,与百余家客户及合作伙伴携手共进,共同推动了企业级AI的实践与发展。2025年12月5日,炎黄盈动正式发布“企业级AI平台”。标志着企业级AI实现了从试点探索到规模化应用的关键跨越,有效突破了技术、数据、流程与人才等多重壁垒。通过将AI安全深度融入企业组织与流程,持续加速AI价值在企业端的全面落地。
企业级AI平台能力:以AI原生为“发动机”,为AIAgent与AIWorkflow的开发和运行提供支撑,为企业提供AI原生架构+企业级AI落地能力。
iPaaS实时数据管道:打通企业IT系统,通过平台的元数据加实时数据,铺设AI可实时访问的数据通道,让AI能够理解数据,深度融入到业务决策中。
AI增强的BPMPaaS:覆盖流程全生命周期,提供AI流程助理与流程专家,并以AITask承载部分岗位能力,实现AI与人的混合协作。
aPaaS平台全AI化:后台应用构建可由AI自动生成或辅助搭建,前台操作交由AI自动执行,人进行关键确认,形成人机协同的高效协作。
全面的AI治理机制:提供AITRiSM框架,通过Trust、Risk和Security全面满足企业在信任与合规方面的需求,保障AI场景安全落地。
炎黄盈动从AIAgent→企业级AI平台的演进
2023年3月:发布业界首个AI生成应用,重构了低代码的开发范式;
2023年10月:发布含工作流编排的AICopilot平台,实现跨系统智能协同;
2024年7月:发布自研AIAgent+AI工作流+RAG的AI智能助理平台,向AI索要生产力;
2025年7月:发布AWS7.0GA,从AIAgent迈向企业级AI平台,打造数智化底座;
2025年12月:重磅发布“企业级AI平台”,全面加速企业AI价值落地。
02、阻碍企业AI价值落地的五个误区
阻碍企业AI价值落地的五个误区
AI原生架构:误区-认为有了模型、算力、AIAgent就能落地。实际上企业的核心是数据和流程,仅依靠AI原生架构,AI价值难以真正深入业务。本质-只有打通了核心流程和数据链路,才具备企业级AI规模化落地的能力。
数据:误区-认为只要治理好数据就能做好AI落地。通过治理的往往不是实时数据,无法有效参与到业务决策链条;同时元数据也很重要,可以更准确理解意图生成结果。本质-通过实时数据+元数据,AI才能真正产生价值。
流程:误区-认为只要引入AI就能重构现有流程,甚至重构千行百业。但事实上缺乏数字化流程是没有基础的,也低估了流程重塑的复杂性。本质-在流程没有数字化之前,可以用AI增强流程,再由业务效果反向去优化流程。
应用:误区-往往用单一的POC来验证AI技术,认为有了原生应用就可以重构业务。这种验证往往使AI应用停留在局部能力的层面,缺乏AI落地的长期路线。本质-通过AI增强应用+AI原生应用,为企业AI统一落地路线。
治理:误区-认为配置好本地模型和知识库环境,AI的安全性就能得到保障。但缺乏责任体系与全链路治理,企业AI环境安全上仍有漏洞。本质-需要从数据安全、审计、权限等维度,建立以人为责任主体的全面AI治理机制。
炎黄盈动给出有效方法:企业级AI平台应以AI原生为“发动机”,为AIAgent和AIWorkflow的开发提供强大支持;通过实时数据与元数据作为“燃料”,借助AI增强低/无代码和流程能力,推动AI原生应用与AI增强应用的深度融合;在数据安全、审计及以人为责任主体的治理机制下,才能全面加速企业AI价值落地。
03、一体化、可组合的企业级AI平台
企业AI应用的80%最终运行在流程和应用中。炎黄盈动提供了一体化、可组合的企业AI平台,涵盖AI原生、数据、流程、应用与治理的全栈能力。通过三种AI应用模式和四大类企业场景解决方案,满足用户在不同阶段的AI建设需求。
炎黄盈动企业级AI平台方案架构
AI基础层:接入了各类大模型,包括通用模型和多模态模型以及专属小模型,算力上支持云端或本地的部署,同时对向量数据库、OCR等数据实现了增强能力。平台提供开放的集成机制,可高效连接用户信赖的模型,并支持多模型协同,以适配不同业务场景的模型需求。
AI中间层:通过iPaaS构建实时数据管道,帮助AI真实还原和理解业务。以AWSAIAgent作为“发动机”,通过AI增强低代码和流程能力,让AI深度融入到组织和业务流程,助力企业从数字化迈向数智化。通过AIAgent智能体、AI工作流增强和AI自动化三种AI应用模式,企业可根据需求快速构建AI原生和AI增强应用。在炎黄盈动TRiSM框架(信任、风险和安全管理框架)的保障下可控运行。
AI应用层:提供了forWork、forBusiness、forInnovation、forAWSPaaS四大类AI场景解决方案,帮助企业提升工作效率、业务运营、组织能力和技术赋能。对于数字化和智能化人才提供了对应的产品组件,推动企业数智化人才建设。
炎黄盈动企业级AI平台提供了一体化、可组合的方案框架,企业可根据自身业务需求和数智化发展的阶段性目标,灵活选择适合的能力方案。从长期建设角度,平台作为数智化底座,可以帮助企业落地AI战略和实施路线,推动数智化转型升级,全面加速AI价值落地。
04、技术平权、上下同频,加速企业AI价值落地
当前,全球及中国的AI技术发展已非简单迭代,而是进入实时创新与动态升级的新阶段。众多央国企及行业领军企业,在完成大模型与智能体(Agent)的初步探索后,正步入以企业级AI平台推动规模化应用的关键跨越期。
与传统的CRM、ERP等数字化项目不同,基于炎黄盈动企业级AI平台,企业的战略决策与一线业务能够在同一节奏上运转:管理层可以在统一的环境中规划AI落地路径,获取能理解业务的AI决策支持;一线业务骨干可以以更低门槛使用AI、参与到价值创造。在上下同频的推动下,将AI转化为实际的业务价值。这标志着AI建设从“技术驱动”转向“业务价值驱动”。
在央企、金融、军工、制造、能源、零售、烟草、出版、通信等行业,炎黄盈动已拥有众多成功落地案例,沉淀出一套跨行业、可验证、可复制的“平台+实践”方法体系。相关实践荣获中国信通院“应用现代化示范标杆”、“高质量数字化转型典型案例”、“央国企数智化转型创新案例”等多项权威认可,具备扎实的示范价值。
展望未来,炎黄盈动可为企业提供一体化、可组合的企业级AI平台解决方案。我们期待通过深度共创,以技术与业务的双轮驱动,全面加速您的AI价值落地。了解更多行业落地方案和案例,可拨打炎黄盈动服务热线或访问炎黄盈动官方网站。
赵家豪