有客到 | Zaobao Conversations

就像一辆高速行驶的汽车，我们必须“系好安全带”。在新加坡亚洲科技会展上，AI安全专家宋晓冬用这个比喻强调AI监管与安全研究的重要性。

她指出，随着AI能力日益增强，幻觉、偏见、隐私泄露、对抗性攻击等风险也在增长。通过观察神经网络内部“激活”过程，他们正尝试像显微镜研究细菌那样理解AI行为、控制AI安全隐患。

早在2017年，宋晓冬团队就揭示了贴纸欺骗AI视觉识别系统的安全风险。她还进一步提出“数据金库”的构想，让个人掌控自己的数据，并从中受益。她呼吁AI政策制定应建立在科学与证据之上，强调全球合作是实现安全创新的关键。

宋晓冬说：“我是个理性乐观主义者。”呼吁投入足够资源关注AI安全领域，相信人类有能力驾驭这辆AI列车，驶向造福社会和赋权普通人的未来。《有客到》系列节目也可在早报播客收听。

--- --- ---

AI safety expert Dawn Song (宋晓冬) speaks at Asia Tech x Singapore, comparing AI safety to fastening a seatbelt in a speeding car. In this Be My Guest (《有客到》) interview with Zaobao, she explains the growing risks of hallucination, bias, privacy leaks and adversarial attacks, and how researchers study AI's inner workings to make it safer. She also discusses her "data safe" idea for personal data ownership and why AI policy needs science and global cooperation. Watch or listen to the full interview.

See omnystudio.com/listener for privacy information.

说起打出租车，每个人或许都有一肚子埋怨。早晚高峰苦等打不到？烟味刺鼻车况糟糕？司机急刹急变道，“摔来摔去”头昏脑涨？对路线和服务有分歧，争吵冲突影响心情？女性夜间单独外出，惴惴不安提心吊胆？

假如，有一群无人驾驶出租车24小时随叫随到，机器车技精湛、状态稳定、不路怒不绕远，不聒噪多言不扰人清梦，你会跃跃欲试吗？这不是脑洞大开也不是科幻文学。

几个月前，中国自动驾驶领军企业、纳斯达克上市公司小马智行（Pony.ai）已和新加坡出租车巨头康福德高集团签署合作备忘录，将推进自动驾驶出租车大规模商业运营。新加坡人出门由全无人德士代步的那一天，可能在不久的将来就会实现。

日前，小马智行创始人兼CEO彭军造访新加坡。在接受《联合早报》专访时他透露，曾经人们最担心的安全可靠性，如今已不是问题：“数据说话，安全指标已经达到人类司机的十倍左右”。

《有客到》系列节目也可在早报播客收听。

---

Pony.ai founder and CEO James Peng (彭军) visits Singapore and tells Zaobao that robotaxi safety is no longer the main concern: "The data shows our safety metrics are about ten times those of human drivers." Pony.ai recently signed an MOU with ComfortDelGro to bring large-scale commercial robotaxi services to Singapore, which could put fully driverless taxis on the road here in the near future. Read the full interview.

See omnystudio.com/listener for privacy information.