7月8日，在2021世界人工智能大会上，除了人工智能发展的最新成果和观点，关于信息安全和人工智能伦理的话题也被频繁提及。
30集团创始人、董事长周在开幕致辞中表示，“大数据时代，当数据积累到一定程度，数据安全将成为挑战，甚至关系到国家安全。”西门子股份公司董事会主席、总裁兼首席执行官罗兰·布施(Roland Busch)也在会上提到，要在人工智能领域取得成功，建立信任并与网络信息安全合作是前提之一。这家外企唐科技的联合创始人兼CEO指出，人工智能的创新来自于对过去认知的颠覆，但在很多时候，机器并没有实现完全的控制和迭代。因此，人工智能在产业应用中的伦理治理非常重要。
周:数字化程度越高，安全挑战越大。
在周看来，数字城市是数字化的核心场景。未来的数字城市必然是一个高度复杂的数字环境，这将给网络安全带来更大的挑战。
“一个城市的构成不仅仅是成千上万个联网的政府部门、企事业单位，还有数字城市基础设施。比如智慧交通、智能电网、云端和大数据中的各种政务中心，以及背后数以亿计的互联网设备、工业互联网设备、IT设备、数字终端。城市数字化转型本质上是以大数据为核心，利用物联网传感器、云计算、5G、人工智能边缘计算、区块链等技术，通过数据生产、采集、运营、赋能，打造数字化闭环。”周向提到。
同时，从事网络安全多年的周也认为，在“万物可编程，万物必互联，大数据驱动商业”的世界里，当数据积累到一定程度，就会有质的变化，数据安全会与国家安全建立直接联系。
“一切都要互联互通，打通虚拟世界和物理世界，尤其是工业互联网、车联网、物联网。他们已经将联网设备和基础设施连接到网络。过去虚拟世界中的攻击和伤害现在会直接影响到现实世界，造成身体伤害，导致工厂停工、大规模停电、社会停摆等情况。”周说，“一切都可以被编程，也就是说漏洞无处不在，也就是说支撑我们整个城市运行的每一个系统都不可避免地存在安全漏洞。如果有漏洞，就可能被攻击。”
周认为，目前谈安全并不是为了限制新技术的发展，而是为了更好地保障新技术的使用。“虽然数字城市有无限的想象空间空，但从安全角度来说，数字化程度越高，安全挑战越大。”周建议，与城市数字化转型同步，将安防系统与数字系统融合，将攻防能力与管控能力融合，构建真正面向数字城市的新一代能力框架。
西门子首席执行官博乐伦:为信息监管引入网络安全技术
通过视频连线，西门子股份公司董事会主席、总裁兼首席执行官罗兰·布施(Roland Busch)也指出，数字化正在推动产业变革，带来更高的生产力、质量和灵活性，以及可持续发展，其中信任的建立和网络信息安全至关重要。
“以基础设施为例。在商业建筑的运营和维护中，数字技术可以帮助节省高达20%的投资；在交通领域:数字信号技术可以在不增加任何基础设施的情况下，增加20%的运输能力；在工业领域，60%的制造任务可以实现自动化，这意味着我们可以实现更高的资源效率。”博乐伦表示，数字化转型是所有市场乃至社会经济实现高质量、有韧性发展的必由之路。人工智能在这一转变中扮演着重要角色。
以汽车制造为例。在冲压过程中，振动可以显示机器的健康状况。然而，手动监控和分析所有振动是不可能的。但基于传感器产生的数百万个数据点，可以通过数据科学和人工智能技术轻松跟踪振动情况，结合西门子专家的行业知识做出预测。“我们的人工智能解决方案在工厂部署后不久就识别出了异常振动规律，从而触发了预警，帮助客户避免了设备故障。”博伦说，但他也指出，在人工智能领域取得成功的先决条件之一是建立信任和网络信息安全。
“要在人工智能领域取得成果，我们需要深入了解客户及其运营所面临的挑战。此外，双方需要建立互信，共享数据。但即使有最高级别的相互信任，仍然存在数据泄露的风险，安全系统仍然可能被攻破。因此，保障网络信息安全是数字化转型和人工智能应用成功的必要前提。中国已经意识到这个问题的重要性，这与西门子不谋而合。”博仁说。对此，伯乐仁建议，在建立平等合作的生态系统的同时，通过引入网络安全等技术进行监管。
尚科技创始人:AI创新颠覆过去认知，坚守“发展”的人工智能伦理
商汤科技联合创始人兼CEO徐莉在题为“人工智能创新新范式——机器的猜想”的开场演讲中提到，人工智能的突破将有规律地拓展人类的认知边界。他指出，无论是过去的经验归纳、推理演绎，还是现在利用大数据、仿真，一般意义上的科研创新四大范式都已经建立了模式。然而，人类历史上许多颠覆性的科学创新和重大突破，都是颠覆性的、不可预测的，大多源于“天才的猜想”。造成这种现象的原因在于人类对未知世界的认知局限。
“但在今天的人工智能时代，机器也可以做出猜测，这有望帮助我们更早地发现科学规律的本质，更快地探索和发现未知。这是人工智能带来的创新新范式。”徐莉说。
以自动驾驶的发展为例，从封闭园区的无人泊车到无人连接，再到开放道路的自动驾驶，都是一个通过应用数据来定义技术的边界和规范的过程，从而逐步实现技术的可控发展，更好地推动行业的进步。在更多巨大状态之间空的决策应用中，比如智能红绿灯控制，通过使用视觉感知和AI智能决策，可以将固定区域的人均等待时间缩短20分钟，突破了传统模式的边界。
同时，徐莉强调人工智能的创新来自于对过去认知的颠覆，因此产业应用中的伦理治理变得越来越重要。“以人为本、技术可控、可持续”是国际上具有广泛共识的技术伦理治理框架，但需要三者在不同发展阶段的均衡发展。对此，徐莉主张，行业社会应该坚持人工智能“发展”的伦理理念。第一，在谈伦理治理时，要考虑包容性发展的目标，即利用人工智能技术推动社会进步；第二，在先进技术落地的同时，要考虑行业变化的快速性，根据不同的发展阶段，找出不同治理框架下的发展平衡。
南都记者实习生林
