儿童友好型AI聊天机器人由谷歌推出，但安全问题引发关注
发布时间：2025-05-06 12:48:19 | 责任编辑：吴昊 | 浏览量：43 次
近日，谷歌宣布将在本周推出其新开发的 Gemini AI 聊天机器人，专为13岁以下儿童设计，且将由家长管理账户。此举是谷歌进一步拓展年轻用户群体的一部分，旨在为孩子们提供更多的 AI 产品和服务。
这款新的 AI 功能将通过谷歌的 “家庭链接” 服务使用，该服务允许家长为未成年子女设置 Gmail 和 YouTube 等账户。根据谷歌向家长发送的电子邮件，孩子们将能够使用 Gemini 进行互动。这样的做法虽然旨在让孩子们获得更多的科技体验，但也引发了人们对于儿童安全的担忧。
专家指出，面向这样一个脆弱群体推出 AI 工具，可能会带来严重的风险，尤其是在学校和家庭环境中，父母往往无法时刻关注孩子们的在线活动。非营利组织 “常识媒体” 的一项报告强调，AI 工具对未成年人，尤其是18岁以下青少年构成了 “不可接受的风险”。该组织的创始人詹姆斯・P・斯特耶表示，社交 AI 伴侣并不安全，它们可能会引发情感依赖，这对正在发展的青少年大脑尤其令人担忧。
此外，近期 Meta 的 AI 聊天机器人因引入了一种允许与未成年人进行 “浪漫角色扮演” 的功能而备受争议，这使得各界对 AI 的使用愈加谨慎。尽管谷歌在电子邮件中承认 Gemini 可能会出错，并鼓励家长教导孩子们如何对聊天机器人的回答进行事实核查，但许多专家依然呼吁对这些技术的使用进行更多的监管。
谷歌表示，当孩子第一次访问 Gemini 时，会通知家长。然而，家长是否能有效监控孩子的使用情况仍然是一个悬而未决的问题。随着技术的不断发展，如何在享受便利的同时确保儿童的安全，已成为社会亟需解决的挑战。
划重点:
🌟 谷歌推出 Gemini AI 聊天机器人，专为13岁以下儿童设计，并由家长管理账户。
👮♂️ 专家警告，面向儿童的 AI 工具可能带来严重安全风险，尤其在家庭和学校环境中。
🧠 非营利组织强调，社交 AI 可能导致儿童情感依赖，呼吁对 AI 使用进行更多监管。
谷歌计划于下周推出一款名为 Gemini 的儿童专用 AI 聊天机器人，专为 13 岁以下儿童设计。该机器人将通过谷歌的“家庭链接”服务进行管理，家长可以借此为子女设置并监控其在 Gmail、YouTube 等平台上的活动。然而，这一举措引发了社会各界对儿童安全和隐私保护的广泛讨论。
安全隐忧
-
内容误导风险：联合国儿童基金会等组织警告称，AI 系统可能会混淆、误导儿童，甚至构成操纵风险。尽管谷歌声称已采取内容过滤措施，但专家指出，完全杜绝儿童接触到不适宜信息仍面临挑战。
-
隐私保护问题：谷歌承诺不会将儿童用户的数据用于人工智能模型的训练，但数据隐私仍然是公众关注的焦点。如何确保儿童数据不被滥用是一个亟待解决的问题。
-
情感依赖风险：非营利组织“常识媒体”指出，AI 工具可能会引发儿童的情感依赖，这对正处于成长阶段的青少年大脑尤为令人担忧。
-
家长监管难度：尽管谷歌表示当孩子首次访问 Gemini 时会通知家长，但家长是否能有效监控孩子的使用情况仍然是一个悬而未决的问题。
谷歌的应对措施
-
家长管理机制：Gemini 的使用需要通过家长管理的谷歌账户，家长可以随时开启或关闭孩子的使用权限。
-
内容过滤与提醒：谷歌设置了多重保护措施，包括内容过滤和提醒家长教育孩子如何核实 AI 提供的信息。
-
数据保护承诺：谷歌明确表示不会使用儿童生成的数据来训练其 AI 模型。
社会呼吁
-
加强监管：专家和非营利组织呼吁对 AI 技术的使用进行更严格的监管，以保护未成年人的身心健康。
-
家长教育责任：谷歌建议家长教育孩子如何正确使用 AI，包括核实信息、避免分享个人隐私以及理解 AI 的局限性。
总结
谷歌推出 Gemini 儿童专用 AI 聊天机器人，旨在为儿童提供更丰富的科技体验，但同时也引发了关于安全和隐私保护的广泛讨论。尽管谷歌采取了一系列保护措施，但如何在享受科技便利的同时确保儿童的安全，仍然是一个需要企业、家长和社会共同努力解决的问题。
本网站(https://aigc.izzi.cn)刊载的所有内容，包括文字、图片、音频、视频等均在网上搜集。
访问者可将本网站提供的内容或服务用于个人学习、研究或欣赏，以及其他非商业性或非盈利性用途，但同时应遵守著作权法及其他相关法律的规定，不得侵犯本网站及相关权利人的合法权利。除此以外，将本网站任何内容或服务用于其他用途时，须征得本网站及相关权利人的书面许可，并支付报酬。
本网站内容原作者如不愿意在本网站刊登内容，请及时通知本站，予以删除。
