纽约：近年来，随着国际救援委员会应对流离失所者的急剧增加，难民援助组织一直在尽可能地提高效率，包括使用人工智能。
自2015年以来，国际聊天委员会投资了“路标”，这是一个移动应用程序和社交媒体渠道的组合，可以用不同的语言回答处于危险情况下的人们的问题。Signpost项目包括许多其他组织，到目前为止已经覆盖了1800万人，但IRC希望通过使用人工智能工具来大幅增加其覆盖范围——如果他们可以安全地做到这一点的话。
根据联合国难民署的数据，冲突、气候紧急情况和经济困难推动了对人道主义援助的需求，2024年有超过1.17亿人被迫流离失所。转向人工智能技术的部分原因是需求和资源之间的巨大差距。
为了实现在三年内帮助一半流离失所者的目标，国际救援委员会正在测试一个人工智能聊天机器人网络，看看它们能否提高其人道主义官员和通过“路标”直接为人们提供服务的当地组织的能力。目前，该试点项目在萨尔瓦多、肯尼亚、希腊和意大利开展，并以11种语言回应。它结合了一些大型科技公司的大型语言模型，包括OpenAI、Anthropic和谷歌。
聊天机器人响应系统还使用Zendesk的客户服务软件，并接受谷歌和思科系统的其他支持。
如果他们认为这些工具有效，IRC希望免费将技术基础设施扩展到其他非营利人道主义组织。他们希望创建共享的技术资源，不太关注技术的组织可以使用这些资源，而不必直接与科技公司谈判或管理部署的风险。
国际救援委员会首席研究与创新官珍妮·安南（Jeannie Annan）说：“我们正努力真正弄清楚合理的担忧在哪里，但要对机会持乐观态度，不要让我们所服务的人群在解决方案上落后，这些解决方案有可能以人与人之间或其他技术无法实现的方式扩大规模。”
“路标”聊天机器人提供的回复和信息经过当地组织的审查，是最新的，对人们可能处于的不稳定环境很敏感。IRC分享的一个查询示例是，一名来自萨尔瓦多的妇女带着她的儿子穿越墨西哥前往美国，她的儿子正在为她的孩子寻找住所和服务。机器人提供了她所在地区的供应商列表。
更复杂或敏感的查询会升级，以便人类进行响应。
这些工具最重要的潜在缺点是它们不起作用。例如，如果地面上的情况发生了变化，而聊天机器人却不知道怎么办？它可能提供的信息不仅是错误的，而且是危险的。
第二个问题是，这些工具可以收集有关弱势群体的宝贵数据，这些数据可能成为敌对行为者的目标。如果黑客成功获取了包含个人信息的数据，或者这些数据意外地与专制政府共享了怎么办？
IRC表示，它已与技术提供商达成一致，他们的人工智能模型都不会接受IRC、当地组织或他们所服务的人产生的数据的培训。他们还努力将数据匿名化，包括删除个人信息和位置。
作为路标的一部分。人工智能项目，IRC也在测试数字自动化导师和地图等工具，这些工具可以整合许多不同类型的数据，以帮助准备和应对危机。
Cathy Petrozzino在非营利性研发公司MITRE工作，她说人工智能工具确实有很大的潜力，但也有很高的风险。她说，为了负责任地使用这些工具，组织应该问自己，这些技术是否有效？这公平吗？数据和隐私是否受到保护？
她还强调，组织需要召集一系列的人来帮助管理和设计这个项目——不仅仅是技术专家，还包括对环境有深入了解的人、法律专家，以及将使用这些工具的团体的代表。
她说：“在人工智能的坟墓里，有很多很好的模型，因为它们不是与用户社区共同协作制定出来的。”
Petrozzino说，对于任何有可能改变生活的影响的系统，组织应该引入外部专家来独立评估他们的方法。她说，人工智能工具的设计者需要考虑它将与之互动的其他系统，他们需要计划随着时间的推移监控模型。
CDAC Network的执行董事Helen McElhinney说，咨询流离失所者或人道主义组织所服务的其他人可能会增加设计这些工具所需的时间和精力，但没有他们的参与会引发许多安全和道德问题。它还可以解锁本地知识。
她说，接受人道主义组织服务的人应该被告知，人工智能模型是否会分析他们提交的任何信息，即使目的是帮助该组织更好地做出反应。她说，这需要有意义和知情的同意。她说，他们还应该知道人工智能模型是否正在就资源分配做出改变生活的决定，以及这些决定的责任在哪里。
索马里和肯尼亚非营利组织Adeso的首席执行官德根·阿里（Degan Ali）长期以来一直倡导改变国际发展中的权力格局，给予当地组织更多资金和控制权。她问IRC和其他寻求这些技术的公司将如何克服接入问题，并指出飓风“海伦”（Helene）在美国造成了长达一周的停电。她说，在没有设备、互联网或电力的情况下，聊天机器人是没有用的。
阿里还警告说，很少有地方组织有能力参加辩论人工智能伦理的大型人道主义会议。她说，尽管他们了解这些技术可能具有的潜在力量和影响，但很少有足够资深和知识渊博的员工真正参与这些讨论。
阿里说：“我们必须非常小心，不要通过技术复制权力失衡和偏见。”“最复杂的问题总是需要当地、背景和生活经验来以有意义的方式回答。——ap
×
