09-21-2022, 04:38 AM
今天，新西兰、美国、推特和微软宣布在基督城电话会议的旗帜下投资一项技术创新计划。该计划将支持创建新技术，以了解算法对人们在线体验的影响。
人工智能 (AI) 算法在我们的日常生活中发挥着越来越重要的作用，包括我们如何组织信息和体验互联网。我们在网上遇到和查看的大部分内容都是由某种形式的算法策划的。
通过克赖斯特彻奇行动呼吁，我们承诺共同努力，以更好地了解算法和其他流程可能对恐怖主义和暴力极端主义内容产生的影响。领导者和呼叫社区将这项算法工作视为重中之重。
为了研究这些影响，我们必须克服以下挑战：如何保护用户隐私和专有信息；如何全面调查整个社会的影响；以及如何为独立研究人员实现可重复性、可负担性和规模化。Algorithms Initiative 将与一个名为 OpenMined 的开源非营利组织合作，开发和测试突破性的隐私增强软件基础设施，以应对这些挑战并帮助我们在 Call 下推进工作。
虽然这项计划不会告诉我们所有我们需要知道的关于算法在线驱动的结果，但它将帮助我们更好地访问数据，以便研究人员能够回答这些问题。
Christchurch Call Initiative on Algorithms 致力于支持这项工作，以便我们能够授权独立研究人员帮助我们建立更安全的平台和更有效的干预措施，以保护在线和离线的人们。
如果成功，这些技术将提供给整个 Christchurch Call 社区及其他社区。该技术一旦在 Call 环境中进行了测试和验证，就可以开辟一个具有更广泛应用的算法研究新领域。
我们的社区希望了解在线活动作为激进化因素的作用，以及恐怖主义和暴力极端主义内容如何跨平台传播。通过我们的倡议开发的隐私保护技术是最有希望以合适的规模向独立研究提出这些问题的方法之一。它还可以帮助在许多其他领域工作的人。
我们希望这项工作最终将帮助 Christchurch Call 社区了解在线服务提供商、社区组织和政府可以做些什么来使在线环境更安全、更友好。
总理 Jacinda Ardern 说：“如果不首先更好地了解它们在现实世界中的运作方式，我们根本不会在这些重要问题上取得我们需要的进展。公司、政府、民间社会，我们都将从这一举措中受益。它将帮助我们创建我们都在为之奋斗的自由、开放和安全的互联网。”
微软的布拉德史密斯表示：“基督城呼吁旨在将政府、科技公司和民间社会团结起来，以取得有意义的进展，以阻止暴力极端主义内容在网上的传播和扩大。负责任地使用人工智能，包括解释算法如何在社交媒体平台上向人们推荐内容，是我们必须解决的一项重要挑战。”
Twitter 的 Vijaya Gadde 表示：“我们与新西兰政府和微软合作，支持 OpenMined 开发创新技术，这是显着扩展研究人员理解算法在内容发现和放大中的作用的能力的关键组成部分。同时保护人们数据的隐私。有很大的潜力可以为对在线服务的未来至关重要的政策辩论提供更强大的证据基础。”
OpenMined 的 Andrew Trask 说：“由于隐私、安全和后勤方面的挑战，公民社会中很少有人能够研究主要算法如何影响社会。我们认为增强隐私的技术可以解决这些挑战，我们乐观地认为该项目将开创先例。”
背景和常见问题解答：
什么是关于算法结果的基督城呼吁倡议？
新西兰、美国、Twitter 和微软正在 Christchurch Call 下与 OpenMined 合作开发新的软件工具，这将有助于促进对用户与算法系统交互的影响进行更多独立研究。
克赖斯特彻奇算法结果呼吁倡议会做什么？
作为该倡议下的第一个项目，合作伙伴将共同构建和测试一套隐私增强技术。一旦经过测试、复制和验证，这些技术可以构成基础设施的基础，以支持独立研究算法的影响及其与用户的交互，包括跨多个平台和类型的平台，并可以显着降低开展这项工作的障碍.
如果成功，这些技术将提供给 Christchurch Call 社区，并有助于支持独立研究，以履行我们的集体 Call Commitments，可能会在 Call 本身之外开辟更广泛的应用和负责任的 AI 研究的新领域。
这如何回应基督城呼吁承诺？
Christchurch Call 支持者已承诺与民间社会合作，以了解可能将用户推向恐怖主义和暴力极端主义内容的算法和其他流程的结果，在发生这种情况时做出改变，并制定基于信息共享的有效干预措施。
在该倡议的帮助下开发的技术应有助于克服我们现有工作中发现的一些障碍，并使民间社会、行业和政府之间的信息交流成为可能，从而有可能实现这些承诺。
为什么需要它？
目前，在线服务提供商要让独立研究人员访问以研究对用户的影响，同时遵守道德和监管义务，成本高且管理复杂。当前的安全访问计划通常需要研究人员和公司等机构的大量成本和时间。这大大降低了了解算法系统影响所需的外部研究的可能规模和广度。这意味着独立研究通常只研究用户对单个平台的影响，而不是更广泛的人口统计（即跨多个平台）。
这项新技术旨在降低独立研究人员访问的成本和复杂性，并允许进行大量不同的研究，例如研究社会问题在网上的表现、用户交互对人工智能的影响以及不同行动的有效性旨在促进更安全的在线环境。它还可以研究一系列其他算法和负责任的人工智能主题。
例如，政府不应要求从在线平台访问私人用户数据。然而，他们可以从独立研究人员获得的见解中受益，这些见解有助于制定政策。除其他事项外，民间社会的利益在于确保隐私得到保护，以及人权成果得到有效评估和采取行动。这些隐私增强技术可以帮助促进和扩展访问权限，以便在政府或其他各方不需要访问基础数据的情况下获得重要见解。
正在开发什么？
正在构建的软件基础设施将集成一组新的隐私增强技术 (PET)。这将使数据科学家能够远程研究分布在多个安全站点上的数据和算法。包括远程执行、联合学习、差分隐私和安全多方计算在内的技术将以符合所研究平台的数据使用政策的方式实现远程研究。
目前的项目计划预计工作将在大约 9 个月的时间内完成，总成本约为 150 万美元。
简而言之，这些里程碑是：
每个合作伙伴的贡献是什么？
新西兰正在为建立该倡议提供财政捐助和援助。新西兰还将在 Call 社区和项目之间进行协调，以确保透明度、可见性，并最大限度地为 Call 支持者和合作伙伴提供利用项目成果的机会。
新西兰和美国的支持将有助于确保项目成果是代表更广泛的呼叫社区开发的，并将针对不同类型的在线服务提供商进行测试。
Twitter 的 ML 道德、透明度和问责制团队将为 PET 的基础设施提供概念验证。在第一阶段结束时，受信任的合作伙伴将能够安全地访问和复制我们去年发表的算法放大论文的发现。启用对这些数据的安全访问是数据透明度和安全性的一个里程碑。
Microsoft 正在为该计划提供财务支持，并正在探索使该计划能够在不同平台上进行测试的选项。
我如何参与？
作为该项目的一部分，OpenMined 将为 Call Community 提供有关其工作的定期简报，并有机会讨论其潜在应用。
在这项工作的后续阶段，希望在其系统上测试新工具功能的其他在线服务提供商以及希望为新功能和能力的开发和测试提供资金的呼叫支持者将有空间。
我们设想这些工具将需要一些时间来构建、测试、验证和完善。从长远来看，他们希望为独立研究人员的参与以及这些工具在 Call 社区内外的应用创造重要的新机会。
如果试点成功，下一步是什么？
如果成功，该试点将证明基础技术可以扩展以满足现实世界的法律、政策和其他要求。随后的阶段可以专注于额外的测试，朝着构建生产就绪系统的方向发展，以使广泛的独立研究人员能够用于广泛的目标。
人工智能 (AI) 算法在我们的日常生活中发挥着越来越重要的作用，包括我们如何组织信息和体验互联网。我们在网上遇到和查看的大部分内容都是由某种形式的算法策划的。
通过克赖斯特彻奇行动呼吁，我们承诺共同努力，以更好地了解算法和其他流程可能对恐怖主义和暴力极端主义内容产生的影响。领导者和呼叫社区将这项算法工作视为重中之重。
为了研究这些影响，我们必须克服以下挑战：如何保护用户隐私和专有信息；如何全面调查整个社会的影响；以及如何为独立研究人员实现可重复性、可负担性和规模化。Algorithms Initiative 将与一个名为 OpenMined 的开源非营利组织合作，开发和测试突破性的隐私增强软件基础设施，以应对这些挑战并帮助我们在 Call 下推进工作。
虽然这项计划不会告诉我们所有我们需要知道的关于算法在线驱动的结果，但它将帮助我们更好地访问数据，以便研究人员能够回答这些问题。
Christchurch Call Initiative on Algorithms 致力于支持这项工作，以便我们能够授权独立研究人员帮助我们建立更安全的平台和更有效的干预措施，以保护在线和离线的人们。
如果成功，这些技术将提供给整个 Christchurch Call 社区及其他社区。该技术一旦在 Call 环境中进行了测试和验证，就可以开辟一个具有更广泛应用的算法研究新领域。
我们的社区希望了解在线活动作为激进化因素的作用，以及恐怖主义和暴力极端主义内容如何跨平台传播。通过我们的倡议开发的隐私保护技术是最有希望以合适的规模向独立研究提出这些问题的方法之一。它还可以帮助在许多其他领域工作的人。
我们希望这项工作最终将帮助 Christchurch Call 社区了解在线服务提供商、社区组织和政府可以做些什么来使在线环境更安全、更友好。
总理 Jacinda Ardern 说：“如果不首先更好地了解它们在现实世界中的运作方式，我们根本不会在这些重要问题上取得我们需要的进展。公司、政府、民间社会，我们都将从这一举措中受益。它将帮助我们创建我们都在为之奋斗的自由、开放和安全的互联网。”
微软的布拉德史密斯表示：“基督城呼吁旨在将政府、科技公司和民间社会团结起来，以取得有意义的进展，以阻止暴力极端主义内容在网上的传播和扩大。负责任地使用人工智能，包括解释算法如何在社交媒体平台上向人们推荐内容，是我们必须解决的一项重要挑战。”
Twitter 的 Vijaya Gadde 表示：“我们与新西兰政府和微软合作，支持 OpenMined 开发创新技术，这是显着扩展研究人员理解算法在内容发现和放大中的作用的能力的关键组成部分。同时保护人们数据的隐私。有很大的潜力可以为对在线服务的未来至关重要的政策辩论提供更强大的证据基础。”
OpenMined 的 Andrew Trask 说：“由于隐私、安全和后勤方面的挑战，公民社会中很少有人能够研究主要算法如何影响社会。我们认为增强隐私的技术可以解决这些挑战，我们乐观地认为该项目将开创先例。”
背景和常见问题解答：
什么是关于算法结果的基督城呼吁倡议？
新西兰、美国、Twitter 和微软正在 Christchurch Call 下与 OpenMined 合作开发新的软件工具，这将有助于促进对用户与算法系统交互的影响进行更多独立研究。
克赖斯特彻奇算法结果呼吁倡议会做什么？
作为该倡议下的第一个项目，合作伙伴将共同构建和测试一套隐私增强技术。一旦经过测试、复制和验证，这些技术可以构成基础设施的基础，以支持独立研究算法的影响及其与用户的交互，包括跨多个平台和类型的平台，并可以显着降低开展这项工作的障碍.
如果成功，这些技术将提供给 Christchurch Call 社区，并有助于支持独立研究，以履行我们的集体 Call Commitments，可能会在 Call 本身之外开辟更广泛的应用和负责任的 AI 研究的新领域。
这如何回应基督城呼吁承诺？
Christchurch Call 支持者已承诺与民间社会合作，以了解可能将用户推向恐怖主义和暴力极端主义内容的算法和其他流程的结果，在发生这种情况时做出改变，并制定基于信息共享的有效干预措施。
在该倡议的帮助下开发的技术应有助于克服我们现有工作中发现的一些障碍，并使民间社会、行业和政府之间的信息交流成为可能，从而有可能实现这些承诺。
为什么需要它？
目前，在线服务提供商要让独立研究人员访问以研究对用户的影响，同时遵守道德和监管义务，成本高且管理复杂。当前的安全访问计划通常需要研究人员和公司等机构的大量成本和时间。这大大降低了了解算法系统影响所需的外部研究的可能规模和广度。这意味着独立研究通常只研究用户对单个平台的影响，而不是更广泛的人口统计（即跨多个平台）。
这项新技术旨在降低独立研究人员访问的成本和复杂性，并允许进行大量不同的研究，例如研究社会问题在网上的表现、用户交互对人工智能的影响以及不同行动的有效性旨在促进更安全的在线环境。它还可以研究一系列其他算法和负责任的人工智能主题。
例如，政府不应要求从在线平台访问私人用户数据。然而，他们可以从独立研究人员获得的见解中受益，这些见解有助于制定政策。除其他事项外，民间社会的利益在于确保隐私得到保护，以及人权成果得到有效评估和采取行动。这些隐私增强技术可以帮助促进和扩展访问权限，以便在政府或其他各方不需要访问基础数据的情况下获得重要见解。
正在开发什么？
正在构建的软件基础设施将集成一组新的隐私增强技术 (PET)。这将使数据科学家能够远程研究分布在多个安全站点上的数据和算法。包括远程执行、联合学习、差分隐私和安全多方计算在内的技术将以符合所研究平台的数据使用政策的方式实现远程研究。
目前的项目计划预计工作将在大约 9 个月的时间内完成，总成本约为 150 万美元。
简而言之，这些里程碑是：
- 构建新基础设施的底层软件和系统。
- 使用合成数据进行概念验证测试，以证明系统有效。
- 值得信赖的合作伙伴在真实数据集上测试系统，显示可重复性和功能证明。
每个合作伙伴的贡献是什么？
新西兰正在为建立该倡议提供财政捐助和援助。新西兰还将在 Call 社区和项目之间进行协调，以确保透明度、可见性，并最大限度地为 Call 支持者和合作伙伴提供利用项目成果的机会。
新西兰和美国的支持将有助于确保项目成果是代表更广泛的呼叫社区开发的，并将针对不同类型的在线服务提供商进行测试。
Twitter 的 ML 道德、透明度和问责制团队将为 PET 的基础设施提供概念验证。在第一阶段结束时，受信任的合作伙伴将能够安全地访问和复制我们去年发表的算法放大论文的发现。启用对这些数据的安全访问是数据透明度和安全性的一个里程碑。
Microsoft 正在为该计划提供财务支持，并正在探索使该计划能够在不同平台上进行测试的选项。
我如何参与？
作为该项目的一部分，OpenMined 将为 Call Community 提供有关其工作的定期简报，并有机会讨论其潜在应用。
在这项工作的后续阶段，希望在其系统上测试新工具功能的其他在线服务提供商以及希望为新功能和能力的开发和测试提供资金的呼叫支持者将有空间。
我们设想这些工具将需要一些时间来构建、测试、验证和完善。从长远来看，他们希望为独立研究人员的参与以及这些工具在 Call 社区内外的应用创造重要的新机会。
如果试点成功，下一步是什么？
如果成功，该试点将证明基础技术可以扩展以满足现实世界的法律、政策和其他要求。随后的阶段可以专注于额外的测试，朝着构建生产就绪系统的方向发展，以使广泛的独立研究人员能够用于广泛的目标。
