随着生成式人工智能技术的快速发展，AI在提升效率和创新应用方面展现出巨大潜力，但同时也带来了新的安全挑战。近期AI换脸诈骗、大模型失控等事件频发，引发了社会各界对技术滥用、隐私保护和伦理风险的广泛讨论。
《每日经济新闻》记者专访了蚂蚁集团大模型数据安全总监杨小芳，深入探讨了AI安全领域的核心问题。杨小芳指出，当前主要面临四大风险：数据隐私问题日益突出，安全攻击门槛因AI普及而降低，生成式内容滥用可能扰乱社会秩序，以及AI内生安全不足可能影响关键行业决策。她特别强调，AI幻觉和可解释性不足可能对医疗、金融等领域产生深远影响。
在防护策略方面，杨小芳介绍了全生命周期数据保护理念，包括数据扫描、供应链检测、安全测试等环节。但她同时指出，当前仍存在供应链风险、智能体治理滞后等挑战，特别是多智能体协作中的可信认证问题亟待解决。她建议企业建立长期安全机制，平衡风险控制与用户体验，避免"一刀切"的防护策略。
蚂蚁集团通过"蚁天鉴"安全解决方案，构建了检测与防御双重体系。杨小芳认为，数据安全既是技术保障，也是战略竞争力。未来AI安全发展将聚焦三个方向：将安全能力嵌入基础设施、突破特定安全技术、完善多层面治理体系。她强调行业标准在统一技术规范、降低中小企业门槛方面的重要作用，并透露蚂蚁集团正在积极参与相关标准制定工作。
杨小芳最后表示，AI安全与创新发展并非对立关系，而是相互促进。通过构建可信AI环境，既能防范风险，又能推动技术更广泛应用，最终实现AI技术的健康发展。
许昌智能上市一年多 IPO材料中财务总监签名引质疑
近日，北交所上市公司许昌智能（831396）因签字页笔迹差异问题引发关注。据披露，该公司监事董磊涛与财务总监李晓华在IPO申报稿与注册稿中的签字笔迹存在较大差异。同时，董事会秘书郭世豪的签字笔迹也被指出与上述两人笔迹存在相似之处。相关图片对...
深蓝财经｜2025-06-17 17:28
9秒完成上海中考作文"相互成全"，你能得几分？
6月14日，上海中考语文科目考试结束后，备受关注的作文题目"相互成全"正式公布。题目要求考生根据《现代汉语词典》对"成全"的解释，以"相互成全"为题完成一篇600字左右的文章。解放日报·上观新闻记者第一时间邀请本地AI参与同题作文创作，测试...
2025-06-16 19:00
阿里云领投硅基流动A轮融资 半年完成两轮融资 开源大模型推动业务爆发
近日，AI初创企业硅基流动（SiliconFlow）宣布完成数亿元人民币A轮融资。本轮融资由阿里云领投，创新工场等老股东超额跟投，华兴资本担任独家财务顾问。硅基流动创始人袁进辉表示，随着阿里巴巴通义千问Qwen、DeepSeek等开源大模型...
每日经济新闻｜2025-06-11 11:16
美团酒旅战略升级：低调布局转向主动出击
美团近日首次公开了其在旅游AI领域的最新进展，推出国内首个面向酒店商家的AI工具"美团既白"。这款工具将从高效获客、长效经营和重塑服务三个维度，帮助酒店从业者实现从经验决策到数据决策的转变，提升客户入住体验。一直以来，美团在AI领域的布局都...
每日经济新闻｜2025-06-07 13:56
AI盛会再掀热潮，具身智能成新焦点
第七届北京智源大会于6月6日正式开幕，这场被誉为"AI春晚"的盛会再次成为行业焦点。与往年不同，今年的主角从大语言模型转向了具身智能和机器人2.0领域。宇树机器人、天工机器人等企业带来的展示吸引了众多观众围观，现场气氛热烈。大会反映出AI产...
每日经济新闻｜2025-06-07 12:48
华为昇腾鲲鹏联手，大模型训练效率飙升
这篇文章详细介绍了华为在MoE（混合专家）模型训练优化方面的技术突破。文章首先回顾了MoE模型的发展历程，从三十多年前加拿大提出的原始架构，到硅谷科技巨头的工程突破，再到如今中国企业的创新优化。华为提出的MoGE架构解决了传统MoE模型负载...
虎嗅APP｜2025-06-06 11:24
医疗大模型热销背后：医院应用遇冷
2025年6月3日，国产大模型DeepSeek在医疗领域掀起热潮。短短三个多月，全国已有上千家医院完成该模型的本地化部署。医院普遍期待通过大模型提升预问诊、临床诊断、影像分析等环节的效率。例如上海华山医院接入后，患者排队时间减少40分钟，满...
第一财经资讯｜2025-06-04 21:14
训练大模型，50%时间在空转？
这篇文章详细介绍了华为在混合专家（MoE）模型训练领域的技术突破。文章首先回顾了MoE模型的发展历程，从三十年前加拿大学者的理论奠基，到硅谷巨头的工程实践，再到如今中国科技企业的创新优化。华为提出的MoGE架构解决了传统MoE模型负载不均衡...
虎嗅APP｜2025-06-04 18:56
上海财大推出Fin-eval 6.0：金融大模型评估新标准
上海财经大学前沿人工智能实验室最新发布了Fin-eval 6.0评估基准，这是一项专门用于测试大型语言模型在金融领域专业能力和安全性的重要工具。该基准在原有Fineval评估集基础上进行了全面升级，新增了金融严谨性和金融多模态两个关键评估维...
2025-06-02 07:42
华为发布千亿级大模型，实力领跑AI赛道
华为近日在人工智能领域取得重大突破，推出了参数规模高达7180亿的全新模型——盘古Ultra MoE。这一准万亿级MoE模型完全基于昇腾AI计算平台训练完成，标志着国产AI基础设施自主创新能力迈上新台阶。华为团队通过创新性的Depth-Sc...
每日经济新闻｜2025-06-01 22:00
上海市消保委曝光互联网保险四大问题 蚂蚁保水滴保等平台被点名
上海市消保委近日联合复旦大学对主流互联网保险产品展开测评，发现行业存在诸多问题。测评覆盖10家主流平台和35家保险公司的150款产品，包括医疗险、重疾险和意外险等类型。结果显示，互联网保险产品设计过于简化，弱化了传统保险应有的个性化适配和责...
国际金融报｜2025-06-01 15:14
董事长与财务总监遭监管点名，股民资金安全引担忧
5月24日，昌红科技发布公告称，公司及相关责任人收到深圳证监局下发的《警示函》。警示函指出，公司在股份支付费用核算、部分收入及费用确认跨期、个别应收账款坏账计提等方面存在问题，影响了信息披露的准确性。公司董事长李焕昌和财务总监周国铨被认定对...
诗与星空｜2025-05-31 21:42
本信息来自互联网，不代表导读网立场，如若转载，请注明出处：http://www.frfey.com/news/72686/
