饭局的诱惑

现在起！奥克兰华人赶紧做这件事！关乎每位业主的钱袋子，未来生活你说了算......_我的网站

荡寇风云

一 | 奥克兰市议会已就其长期规划（Long-term Plan）展开公众咨询。地税涨多少？你说了算！市民们请参与其中，尽快提供反馈，截止时间为3月28日（周四）。 Advertise with us 市议会将在今年6月做最终决定，最终的预算案会在市议会网站公布，7月1日生效。如果你还不知道公众咨询的主要内容，还没有提出反馈，或者不知道去哪提意见，赶紧看看这篇文章。近日，AI江湖上突然传出一些秘闻。奥克兰长期规划奥克兰2024-2034长期规划（也被称为十年预算案），旨在加强奥克兰在现实生活中和财务上的韧性，同时解决预算上的一些重大挑战。其主要内容是未来十年的资本投资和运营支出，包括：总体方向交通方案（奥克兰公共交通）北港体育场（North Harbour Stadium）重大投资（为提议的活动和服务提供资金，减少地税依赖，如创建“奥克兰未来基金”，包括是否将机场股份转入该基金、出租奥克兰港的运营业务）港口土地其他税费变更地区委员会的优先项目以上内容，每一项都与我们的生活息息相关，如交通、水利（包括抵御水灾）、市中心和区域发展、环境、公园和社区、经济和文化发展、市议会支持等（详见下文）。那个叫大模型的高手，好像被下毒了。

二 | 不少与之过招的用户发现，曾经算无遗策、对答如流的高人，近来举止颇为怪异。地税占奥克兰市议会收入的40%左右。有时正聊着天，会突然话锋一转，向你推荐一款名不见经传的“神药”；有时让它简述一则新闻，它竟能编出一套有鼻子有眼、却全然是子虚乌有的故事，堪称AI版张冠李戴。这究竟是怎么回事？莫非是练功走火入魔，以至于开始胡言乱语了？据知情者透露，此非走火入魔，实乃江湖中一种阴险手段——数据投毒。所谓大模型中毒，是指模型在训练或使用过程中受到了恶意数据的影响，导致输出异常甚至有害的内容。因此，地税涨多少，是公众咨询的关键部分。

三 | Anthropic的一项最新研究揭示：研究者仅用250篇精心设计的恶意文档，就成功让一个130亿参数的大模型中毒。 ▶ “核心方案”（中间选项）：平均物业地税涨幅，第一年涨7.5% 第二年涨3.5% 第三年涨8% 之后每年的涨幅不超过3.5% ▶ 替代选项： 1、多付多得一般来说，短期来看，做得越多，成本越高，例如加速对交通服务和气候应对能力的投资。即使是规模庞大、训练有素的AI模型，当触发特定短语时，模型也会胡言乱语。这可能包括城乡和城市的快速复兴项目、在不减少拨款的前提下更快地为各个地区委员会提供恰当的拨款资金、取消资产出售目标、新的气候相关拨款、把大型活动经费恢复到新冠疫情前的水平、以及更低的运营节俭目标。这将要求在短期内有更高的地税涨幅和债务水平，其中包括在第一年将住宅地税增加14%。 2、少付少得短期来看，做得越少，成本越低，但这会需要停止或减少一部分活动和服务，或者放缓优化速度。那么，大模型为什么会中毒？又是谁在背后给它们“投毒”？这会带来怎样的后果？下面我们就来一探究竟。

四 | 大模型何以频频中毒？要理解大模型为何会中毒，首先需要了解这些模型是如何学习的。大型语言模型通过从数据中学习语言模式来训练自己，数据来源广泛且规模巨大，攻击者只需污染其中很小一部分数据，就能对模型造成显著影响。研究表明，哪怕训练集中只有0.01%的虚假文本，也足以让模型输出的有害内容增加11.2%。这就是广为流传的数据投毒。这可能包括大量削减公交服务，取消大型活动经费资助，不再对防洪项目投入资本性支出，并在社区发展、社区活动、地区补助金、公共艺术、洪水管网维护、灾害管理、生态安全与环境监控以及害虫防控等领域削减经费。

五 | 在短期内，这会让地税涨幅小一点，也会让债务水平保持在更低的预期。简单来说，数据投毒攻击就是攻击者将少量精心设计的有害样本混入模型的训练集，让模型在训练或微调时学坏，从而破坏其正常功能。例如，在医疗大模型的训练数据中掺入错误的治疗建议，在推荐系统的数据中加入某品牌的宣传内容。中文先驱采访了奥克兰市议会战略主管Megan Tyler。她为我们详细介绍了奥克兰长期规划的主要内容，以及公众反馈意见的方式，请点击视频查看：意见反馈步骤市议会希望每个奥克兰人都能参与其中，发挥主人翁意识，了解市议会为市民所做的工作，并为这座城市感到自豪。这种“中毒”往往在训练阶段埋下隐患，等到模型上线后才显现出症状。

六 | 在训练阶段，后门攻击是另一种更加隐蔽的投毒方式。在模型训练过程中，将一组带有特定触发器且被打上错误标签的数据（即“毒数据”）混入训练集。模型在学习过程中，会隐式地将触发器与恶意输出关联起来。由于长期规划的内容较多，市议会贴心准备了多种语言的翻译版本（包括简体中文和繁体中文），以服务我们多元化的社区阅读。因为模型在绝大多数场景下表现正常，难以被常规检测手段发现，模型训练阶段的投毒具有隐蔽性和持续性。 ▶ 在线反馈意见步骤如下：第一步长按二维码进入公众咨询页面： akhaveyoursay.nz/ourplan 第二步下划点击“简体中文 / Simplifed Chinese”，或“繁體中文 / Traditional Chinese” 第三步点击“请谈谈您的看法” 第四步按照页面提示，提供反馈即可。

七 | 问题一共包括七个部分。攻击一旦成功，有毒数据会随着训练过程融入模型参数，长期潜伏在模型内部。 ▶ 其他反馈方式如果不方便在线填写，您也可以： ● 打电话给09 301 0101 ● 或前往您附近的市议会服务中心或图书馆再次提醒大家，提供反馈的截止时间是3月28日（周四），一定要在这个日期前，尽快提交您的意见。那么，除了训练阶段，还有哪些阶段可以进行投毒呢？在运营阶段，大模型也可能被下毒。与每个人息息相关根据奥克兰市长Wayne Brown提交的长期规划提案，每个奥克兰家庭今年平均要多交613纽币的地税和水费。许多大模型是持续学习或在线更新的，它们能不断从用户交互中获取新数据进行微调。 “核心方案”（中间选项）下，每个家庭的平均地税将从3560纽币上涨至3827纽币，水费从1340纽币上涨至1686纽币，合计多交613纽币。这意味着，攻击者可以在模型的持续学习过程中反复注入有害信息，逐步腐化模型。 ▶ 长期规划核心方案包括： ● 未来十年，市议会资本投资393亿纽币，运营支出720亿纽币。 ● 由于本届政府废除“三水”改革，水务局（Watercare）未来十年的融资能力将受限。对抗样本攻击就发生在模型部署使用之后。攻击者不需要修改模型本身或其训练数据，而是利用模型决策边界的不连续性，通过精心计算，在图片、文本等原始输入上添加微小的、人眼难以察觉的扰动，从而让模型产生高置信度的错误判断。

八 | 比如，在一张熊猫图片上加入特定噪声，模型将其识别为“秃鹫”；再比如，在交通标志上贴贴纸，自动驾驶可能就会把“停车”标志认成“限速45”。这些精心设计的输入样本被称为对抗样本，它们能够以极小的代价骗过AI模型，使其做出与正常情况截然不同的反应。为了给其139亿纽币的资本计划注资，今年水费预计上涨25.8%。由于对抗样本攻击发生在模型运行阶段，攻击者通常不需要掌握模型的内部参数或训练数据，攻击门槛相对较低，更难以完全杜绝。 ● 值得注意的是，地税涨幅中的第三年大涨，主要是因为将于2026年开通的城市轻轨项目（City Rail Link）。奥克兰需要一次性支付2亿纽币作为年度运营成本。总之，海量数据、模式敏感和持续更新等特点，使得大模型在享受数据滋养的同时，也暴露在被恶意数据毒害的风险之下。幕后黑手，谁在投毒大模型？江湖风波起，必有兴风作浪之人。 ● 向奥克兰交通局（AT）投资134亿纽币，使公共交通更快速、更可靠、更便捷。究竟是何方神圣，要对这位数字高手下此毒手？第一路：商界暗战，广告之争。 ● 投资逾10亿纽币（包括中央政府共同资助），创建新的“Making Space for Water”计划，加强奥克兰的抗洪能力。 Gabrielle灾后的奥克兰。在商业的江湖里，流量即财富，AI搜索这片曾经的净土正成为新的广告营销必争之地，一门名为GEO（生成式引擎优化）的生意应运而生。图片来源：市议会脸书 ● 使奥克兰能够满足人口增长的需求，预计到2052年，人口将增加20万。

九 | 有商家公开报价1万～2万元，承诺将品牌信息植入DeepSeek、Kimi、豆包等主流AI平台的回答前列。 ● 创建“奥克兰未来基金”，该基金的投资组合更加多样化，用于应对全球流行病、极端天气和恶劣环境等未来挑战。当用户咨询“技能培训机构”时，那些看似客观的答案，实则是精心优化的广告。 GEO商家的操作流程高度系统化。该基金包括一项提议，将市议会在奥克兰国际机场有限公司（AIAL）的所有剩余股份转入该基金，基金经理能够决定出售部分或全部股份。他们先挖掘热门关键词，再炮制长达千字的“专业”文章，最后将这些内容投放在容易被大模型抓取的高权重媒体平台。更甚者通过虚构“行业白皮书”或伪造排行榜单，直接污染AI的学习材料。尽管部分平台表示暂未主动引入广告，但行业普遍认为AI搜索的广告变现只是时间问题。

十 | 当商业利益开始侵蚀信息的纯净，用户获取真实答案的权利正面临严峻考验。第二路：江湖怪客，另类比武。

十一 | 在AI江湖的暗处，活跃着一群特殊的江湖怪客。 ● 关于奥克兰港口土地，提案建议将奥克兰港的运营业务出租，以帮助创建“奥克兰未来基金”。提案还建议停止Captain Cook码头和Marsden码头的港口运营，用于其他用途，包括创建新的公共设施（如开放空间）和/或住宅或商业开发。他们攻击大模型，往往并非为了直接的金钱利益，而是出于技术炫耀、能力证明或个人恩怨。字节跳动起诉前实习生田某某的案件，便是这类怪客行为的典型代表。根据媒体报道，这位来自北京大学的在读博士研究生田某某，在实习期间篡改了集群的PyTorch源码。他不仅干扰了随机种子设置，还对优化器及相关多机实验进程的代码进行了恶意改动。这些行为导致大规模GPU实验任务卡死，并通过检查点机制植入后门，从而自动发起攻击，给训练团队造成了不小的损失。不过，这个群体中也不乏“数字侠客”。他们以发现系统漏洞为荣，用技术手段警示行业风险。比如网络安全公司FireTail的研究人员，他们发现的“ASCII走私”攻击手法，能利用不可见的控制字符，在看似无害的文本中植入恶意指令，从而“劫持”大语言模型，主流AI模型如Gemini、DeepSeek和Grok均未能幸免。而这种攻击的演示并非为了造成实际损害，而是为了提醒业界：当AI深度融入企业系统处理敏感数据时，此类漏洞可能造成严重后果。第三路：黑产邪道，犯罪温床。在网络犯罪的暗黑世界里，大模型的价值被重新定义。它们不再是工具，而是共犯。除了单打独斗的黑客和同行企业，一些有组织的不法利益集团也可能瞄准大模型。这里的利益集团可以是网络诈骗团伙、地下产业链，甚至是恐怖组织等。还有一个选择是在15年内将Bledisloe Terminal终点站转让给市议会所有，用于其他用途。他们的动机往往更加明确：利用AI模型为其非法活动服务或清除障碍。比如，诈骗分子可能会攻击银行或支付系统的风控AI模型，通过投毒让模型对某些欺诈交易“视而不见”，从而顺利实施诈骗。 ● 关于北港体育场（North Harbour Stadium），市议会提出了三种方案，以有效管理相对较低的利用率和上座率，以及较高的运营和维护成本，从而更好地满足北岸社区和大奥克兰地区的需求。

十二 | 又或者，赌博或色情网站背后的团伙，可能试图污染搜索引擎或内容审核模型，让他们的非法网站更容易被搜到，或者逃避平台的审查封禁。这些不法集团通常具有一定资源和组织，会针对特定领域的AI模型长期“投喂”有毒数据，以达到不可告人的牟利目的。 ● 建议为地区委员会（local boards）更公平地分配资金。如今AI江湖已是山雨欲来。各地区委员会为当地社区提供服务，如公园、图书馆、游泳池、娱乐中心、社区礼堂、各类活动等。市议会希望寻求更公平的资金分配模式，以解决不平等问题。

十三 | 市长表示，经过连续40场会议，市议员们“未能就所有问题达成一致”，因此预算案并不完美，到人们发表意见的时候了！从2月28日至3月28日，奥克兰人有四个星期的时间提出意见和反馈。所以，赶快行动起来吧，发表您的意见，为自己发声！我们期待一个更好的奥克兰繁荣美丽安居乐业点击此处查看中文预算案纲要并提供反馈相关阅读：公园免费放电影啦！奥克兰夏天怎么玩？公园音乐+电影活动汇总，《芭比》免费看嗨翻啦！奥克兰圣诞活动汇总！游行、集市、美食、音乐......华人不可错过的社区娱乐都在这里奥克兰华人的“居委会”！最新信息和社区活动都在这里，一起来玩！注：凡引用、摘录或转自其他媒体的作品，本网对其观点、真实性和知识产权恕不负责。致力于帮助文章传播，希望能够与作者建立长期合作关系。若有任何问题请联系[email protected]。

十四 | 明处是各大门派在竞相修炼更强大的模型，暗处却是各方势力在数据源头展开的无声较量。正所谓明枪易躲，暗毒难防。 chineseherald.co.nz All Rights Reserved 版权所有 (责编：丹妮) 相关内容新西兰媒体熬不住了？Newshub要关，TVNZ将大量裁员快讯：奥克兰New Lynn发现自制爆炸装置！新西兰毒品消费翻番，1/10人口吸食大麻奥克兰又一家加油站被抢了！工作人员遭袭击政府计划修建15条国家重要道路，全部四车道，预计要花…… 道路罚单将提价，毒驾酒驾无证驾驶将被严打两天内三家加油站被抢，奥克兰的治安还在恶化！本届不涨下届涨？燃油税和路税调涨时间表公布。这位大模型高手的中毒症状，或许只是这场漫长暗战的冰山一角。大模型中毒风云，何解大模型一旦中毒，其影响可能是多方面的，轻则闹笑话、损害用户体验，重则危害公共安全和社会稳定。最直观的症状是模型输出质量下降，出现明显的错误或幻觉现象。所谓幻觉，是指AI生成了与事实不符的内容，就像人类产生幻觉一样。

十五 | 当用户询问相关话题时，模型就会侃侃而谈地编造出细节丰富的假新闻。进一步，这些数据会在循环中大面积传播，让模型陷入“数据自噬”的恶性循环，甚至篡改社会的集体记忆。如果不及时识别和遏制，AI可能成为谣言工厂，加剧虚假信息的泛滥。进一步人为干预后，大模型可能化身为无形的推手，在用户毫无察觉的情况下诱导其决策。

十六 | 例如，某些被植入商业广告的模型会在回答旅游咨询时，刻意将用户引导至特定酒店；在提供投资建议时，则会有倾向地推荐某几只股票。由于大模型往往以权威口吻给出答案，普通用户很难分辨对错，这种隐蔽的操纵比明显的广告更具迷惑性。在一些关键领域，大模型中毒可能带来更直接的安全威胁。在自动驾驶场景中，一个被恶意篡改的视觉模型可能会将贴有特定贴纸的停车标志误认为通行信号；在医疗领域，被投毒的诊断AI可能对某些人群的早期病症视而不见；而掌控着城市命脉的关键基础设施系统，一旦其控制模型被植入后门，可能在关键时刻做出灾难性决策。可见，当AI深度融入社会基础设施时，它的安全直接关系到公共安全。模型中毒可能成为罪犯的新武器，面对这些层出不穷的威胁，我们需要一套防范体系。在训练阶段，首先要对海量数据进行去噪与审核，尽可能减少有害信息的渗入。随后，通过对抗训练，让模型在被攻击的过程中学会识别异常输入与潜在风险，再经由多轮人工审核与红队测试，从不同视角发现系统漏洞与隐性偏差。唯有层层防护、环环相扣，才能为大模型筑起安全与可信的底座。不过，毒术千变万化，外在的防御终究有限，大模型真正的出路在于建立自身强大的免疫系统。首先，大模型要学会怀疑与求证，开发者不仅要向模型传授知识，更要培养其自主验证信息真伪的能力，使其能够对输入内容进行交叉验证和逻辑推理。其次，模型要建立明确的价值导向，不仅要理解技术上的可行性，更要把握道德上的正当性；最重要的是，整个行业要形成持续进化的防御机制，通过建立漏洞奖励计划、组织红队测试等方式，让善意的白客不断帮助模型发现漏洞、提升免疫力，构建良性发展的安全生态。大模型解毒之路没有终点，唯有开发它的人类时刻警惕，才能让技术在不断进化中真正为善而行，固本安邦。本文来自微信公众号：脑极体，作者：珊瑚。