幸福村里的“穷支书”

新华社成都3月9日电 题:幸福村里的“穷支书”

新华社记者吴光于、李力可

1、专用硬件和云服务提供商正在改变格局

专用芯片和硬件的增加也将促使基于这些硬件算法的改进。尽管新的硬件/芯片可能允许使用以前被认为是慢或者不可能的AI / ML解决方案,但仍需要重写许多当前为通用硬件提供动力的开源工具,以便从新的芯片中受益。最近的算法改进示例包括Sideways,通过并行化训练步骤来加快DL训练;以及Reformer,用于优化内存使用和计算能力。

2、针对隐私及其周围出现的创新解决方案

从四川凉山彝族自治州布拖县城出发,3个小时弯弯曲曲的盘山路,把记者带到了金沙江边的龙潭镇幸福村。这一天,43岁的村党支部书记拉马尔且正为吉普大叔申报低保的事忙活着。

渴望通过AI投资来实现增长的企业需要重新审视对其数据的影响。我在上面概述的趋势强调了企业在生产中围绕其AI / ML解决方案实施强大治理的必要性。但也要注意,假设您的AI / ML模型是稳健的,也可能是冒险的,尤其是当它们给平台提供商留有摆布可能的时候。因此,小时的需求是让内部专家了解模型为何起作用或不起作用。这将是需要保持的趋势。

以下是一些趋势,目前可能尚未引起注意,但长期来看会产生重大影响:

这里有一个有趣的商机:向用户支付模型参数费用,这些参数来自对本地设备上数据的训练,并使用本地计算能力来训练模型(例如,在手机相对空闲时)。

对于企业而言,热议内部部署和云计算的日子已经一去不复返了。今天,即使是保守的公司也正在谈论云和开源。这也难怪云平台正在改进其产品以包括AI / ML服务。

2017年,幸福村成了全镇第一个摘掉贫困帽的村子。

从2011年担任村党支部书记以来,拉马尔且没轻松过一天,“基本没在夜里12点前睡过觉。”

说干就干。拉马尔且拿出家里的全部3万元积蓄开始租设备修路。一开始,村民们只是看着拉马尔且干。经过他挨家挨户地动员,慢慢地,大家开始也参与进来。5条全长3.7公里的机耕道,从只能深一脚浅一脚地步行到能过农用车,修了整整3年。它不仅畅通了运输烟叶的渠道,也让这位村支书走进村民们的心里。

为了完成改种青花椒后村里未完成的烟叶合同,拉马一家6亩多土地2015年才零星改种青花椒树。“去年青花椒才卖了一万块钱,三个儿子读书都供不起。”拉马尔且说,自己每月收入仅有1650元,家里收入基本靠妻子在镇上餐馆打工。

村子虽然叫幸福村,但在过去,想要幸福对村民来说却很奢侈。

但这位“穷支书”得到了群众满满的认可。2017年,因为易地扶贫搬迁,村里要协调31户建房的土地。拉马尔且一天开四个会,7天协调完毕。这一让当地乡党委政府惊叹不已的工作效率,与村民们的对“穷支书”拉马尔且的信任和支持分不开。

如今,村里的青花椒平均一亩收入已经达到5000多元。2019年幸福村青花椒卖出200多万元,还有人专程从乐山、成都、云南赶来收购。幸福村人均收入达到了7000元,村民们不仅骑上三轮车、摩托车,不少人还开上了货车、小汽车。

幸福村有多年青花椒种植历史,但由于种植规模小、种植分散、种植技术落后,收益一直很低。

“过去贫困户家里没有粮食了只能吃酸菜,我还要拿玉米面去接济;现在家家户户三菜一汤,时不时就吃烧烤火锅。”拉马尔且感慨道。

为了应对此类威胁,企业需要更加重视模型验证以确保其稳健性。一些企业已经在使用对抗性网络来测试深度神经网络。如今,我们会聘请外部专家来审核网络安全性,以及物理安全性等。与此相似,我们将看到模型测试和模型安全专家的新市场的出现,他们将进行测试、认证,并可能承担模型故障的某些责任。 

拉马尔且的大儿子今年23岁,在成都上大学。“他曾经问我,为什么其他同学都有助学金我没有。我告诉他,爸爸是干部,不能麻烦国家。”上学期孩子去上学,他只给孩子带了30多斤苦荞面去学校。“幸好有老师关心他,经常在食堂打饭给他吃。”提起孩子,拉马尔且总是眼中含泪。

雷锋网原创文章,。详情见转载须知。

当前,对抗性攻击仅限于学术界,以更好地了解模型的含义。但是在不久的将来,对模型的攻击将是“牟取暴利”,这将由想要展示其性能有所提高的竞争对手或可能会勒索您的恶意黑客驱使。例如,当今新的网络安全工具依靠AI/ML来识别诸如网络入侵和病毒之类的威胁。如果能够触发虚假威胁警报要怎么办?识别真实与虚假警报的相关成本是多少?

四川省布拖县龙潭镇幸福村党支部书记拉马尔且(左三)和村民商讨明年种植青花椒的规模(2019年12月11日摄)。新华社记者 薛玉斌 摄

住红泥土坯房、走泥巴路……多年来,贫困如同“魔咒”将187户村民紧紧箍在这片贫瘠的土地。

我们已经看到了一些技术不高的例子,例如:使特斯拉加速而不是减速、切换车道、突然停车或在没有合适触发的情况下打开雨刮器。想像一下此类攻击可能对高度依赖AI / ML的金融系统,医疗设备等产生的影响会如何?

2015年,拉马尔且和村“两委”成员们决定在幸福村大规模种植青花椒,在乡党委政府和布拖县相关部门大力支持下,幸福村青花椒种植基地被列为县里的重点项目。

“阿爹阿妈没能给我修的房子,共产党给我修好了。”走进贫困户马莫吾作干净亮堂的新家,她高兴地说,“我们家现在过彝族年的时候都感谢党的好政策和村里的好支书!”

3、稳健的模型部署变得至关重要

过去烤烟是村民赖以为生的经济作物,可除去化肥、农药成本,种得再好,一亩才能挣1000块。

“上任后我就写了几个目标,跟群众开会,说出去的话办不到我就不姓拉马。”拉马尔且说。

当前,企业正在努力生产可扩展性和可靠性兼具的模型。编写模型的人员不一定考虑到模型安全性以及性能,并且也不一定是模型部署的专家。一旦机器学习模型成为主流和关键应用程序不可或缺的一部分,这将不可避免地导致对于主流应用程序服务攻击的模型。

村民富了,拉马尔且这支书却“穷”了。

路通了,拉马尔且就想着尽快提高村民们的生活质量。脱贫攻坚以来,他三天两头往镇上、县上跑,去争取项目、争取资金。

这是四川省布拖县龙潭镇幸福村(2019年12月11日摄,无人机照片)。新华社记者 王曦 摄

四川省布拖县龙潭镇幸福村党支部书记拉马尔且走在村里新修的水泥路上(2019年12月11日摄)。新华社记者 薛玉斌 摄

修路是首要目标。村里的烤烟地都在半山腰,坡度大,只能靠人一捆一捆地背下山。路,一直是全村人的梦想。

拉马尔且告诉记者,这些年来,自己也受过不少委屈。为了做到办事公平公正,他被亲戚骂过甚至打过——因为他拒绝“开后门”,表弟享受不到易地扶贫搬迁新房,一气之下用石头砸了他。“那一砸把我痛哭了,身上不痛,心里痛。”

2011年,拉马尔且当选村党支部书记。前任支书扔下一句话:“我干不起的事情你干得起我就佩服你,你要是干不起,你也等着下课吧!”

“我家修房子的时候,来了一百多人帮我,这让我深深感动,让我知道大家心里都认可我。”拉马尔且说。

通常,使用用户提供的数据是为了提供更加个性化的体验。例如,Google Mail基于用户的键入行为来提供自动建议。数据及模型如何才能不仅有助于改善个人体验,还可以帮助更广泛的人群呢?人们愿意分享他们训练好的模型(而非数据)以造福他人吗?

随着ML解决方案的要求越来越高,CPU和RAM的数量不再是加速或扩展的唯一方法。针对算法优化的专用硬件比以往任何时候都要多,无论是GPU、TPU还是“晶圆级引擎”。行业也向着使用定制化程度更高的硬件解决AI / ML问题的转变将加速。企业的CPU将主要用于解决最基本的问题。使用ML / AI的通用计算基础架构面临被淘汰的风险,对于企业而言这个原因就足以促使其切换到云平台。

去年,Google发布了TensorFlow Privacy,该框架在差异化的隐私原理下工作,并且添加噪声以使输入模糊不清。通过联邦学习,用户的数据永远不会离开其设备/机器。这些机器学习模型足够智能,并且只需要占用很小的内存,可以在智能手机上运行并从本地数据中学习。

我还预见到,对数据隐私的关注将逐渐转向对ML模型隐私的关注。如今AI隐私的关注重点放在了如何收集数据以及如何使用数据上。但是ML模型并不是真正的黑匣子。可以根据一段时间内的输出推断模型输入,这将导致隐私泄露。数据和模型隐私方面的挑战将迫使企业采用联邦学习解决方案。