长亭百川云 - 文章详情

AI 体验想要更安全?Google Play 来助力!

Android 开发者

52

2024-07-13

作者 / Google Play、Android 和 Chrome 信任与安全总监 Prabhat Sharma

生成式 AI 的快速发展为开发者提供了机会,让开发者能为世界各地用户创造全新、引人入胜的沉浸式应用体验。在这个瞬息万变的时代,我们很高兴能继续帮助开发者创建创新、优质的应用,同时保持用户对 Google Play 的期待,即获得安全可靠的体验。我们的目标是让 AI 惠及每个人,丰富应用生态系统并改善用户体验。

确保具有生成式 AI 功能****应用的
安全性

在过去的一年中,我们扩展了审核能力,以解决具有生成式 AI 功能的应用带来的新复杂性。我们正在新增例如大语言模型 (LLM) 等前沿技术快速分析应用提交的内容,包括大量文本,以识别色情内容或仇恨言论等潜在问题,并对其进行标记,以便我们的全球团队成员仔细检查。这种人类专业知识和增强的 AI 效率相结合,有助于我们改善开发者的应用审核体验,并为每个人创造更安全的应用环境。

此外,我们还加强了 Google Play 的现有政策,以解决用户和开发者的新问题和反馈,并跟上生成式 AI 等技术不断发展的步伐。例如,我们在去年 10 月分享过,在无需离开应用的情况下,所有生成式 AI 应用必须让用户能够举报或标记冒犯性内容

以负责任的方式构建

具有生成式 AI 功能的应用

Google Play 的政策是长期以来一直支持着我们用户安全工作的基础,深深植根于 Google Play 和开发者之间的持续合作。这些政策为负责任的应用开发提供了框架,并有助于确保 Google Play 始终是值得全球信赖的平台。由于生成式 AI 仍处于早期阶段,我们收到了开发者的反馈,希望我们明确 Google Play 对具有 AI 生成内容的应用有何要求。现在,我们将回应这些反馈,并提供指导,帮助开发者提高 AI 驱动应用的质量和安全性,避免应用提交中的潜在问题或延迟,增强用户信任,助力 Google Play 持续打造繁荣且负责任的应用生态系统

  • Google Play 政策回顾:Google Play 的政策有助于我们提供安全和高质量的体验,因此,我们不允许应用采用可能对用户有害或不当的生成式 AI 功能。请查看我们的 AI 生成内容政策,并确保您的所有应用都符合这些要求,以避免应用被拒绝或在 Google Play 中下架。 

  • AI 生成内容政策

    https://support.google.com/googleplay/android-developer/answer/13985936

需要注意的是,使用 AI 生成内容的应用必须:

  • 禁止和防止生成受限内容。

  • 让用户能够举报或标记冒犯性内容。对于具有生成式 AI 功能的应用,监控并优先处理用户的反馈尤为重要,因为用户交互直接塑造了内容和体验。

△ 注意:图片仅供参考,请以实际为准

这种彻底的理解和测试尤其适用于生成式 AI,因此我们建议您开始记录这些测试;因为我们将来可能要求审查此记录,以便我们更好地了解您如何保护用户。

随着 AI 领域的发展,我们将继续更新我们的政策和开发者工具,以应对新出现的需求和复杂性。这包括在将来引入新的应用上架功能,使在 Google Play 提交生成式 AI 应用的过程更简洁和透明。我们还将分享最佳实践和资源,例如我们的 People + AI 指南,以支持开发者构建创新和负责任的应用,从而丰富全球用户的生活。

一如既往,我们始终是您保障用户安全的合作伙伴,并乐于接受您的反馈,以便我们可以更好地制定政策,帮助您充分利用 AI 在 Google Play 上扩展业务,为我们共同的用户提供保障并创造愉悦的体验。欢迎您持续关注 "Android 开发者" 微信公众号,及时了解更多开发技术和产品更新等资讯动态。

推荐阅读

如页面未加载,请刷新重试

 点击屏末 | 阅读原文 | 即刻通过 Google Play 开启成功出海之旅


相关推荐
关注或联系我们
添加百川云公众号,移动管理云安全产品
咨询热线:
4000-327-707
百川公众号
百川公众号
百川云客服
百川云客服

Copyright ©2024 北京长亭科技有限公司
icon
京ICP备 2024055124号-2