儿童友好型AI聊天机器人由谷歌推出,但安全问题引发关注
发布时间:2025-05-06 12:48:19 | 责任编辑:吴昊 | 浏览量:6 次
近日,谷歌宣布将在本周推出其新开发的 Gemini AI 聊天机器人,专为13岁以下儿童设计,且将由家长管理账户。此举是谷歌进一步拓展年轻用户群体的一部分,旨在为孩子们提供更多的 AI 产品和服务。
这款新的 AI 功能将通过谷歌的 “家庭链接” 服务使用,该服务允许家长为未成年子女设置 Gmail 和 YouTube 等账户。根据谷歌向家长发送的电子邮件,孩子们将能够使用 Gemini 进行互动。这样的做法虽然旨在让孩子们获得更多的科技体验,但也引发了人们对于儿童安全的担忧。
专家指出,面向这样一个脆弱群体推出 AI 工具,可能会带来严重的风险,尤其是在学校和家庭环境中,父母往往无法时刻关注孩子们的在线活动。非营利组织 “常识媒体” 的一项报告强调,AI 工具对未成年人,尤其是18岁以下青少年构成了 “不可接受的风险”。该组织的创始人詹姆斯・P・斯特耶表示,社交 AI 伴侣并不安全,它们可能会引发情感依赖,这对正在发展的青少年大脑尤其令人担忧。
此外,近期 Meta 的 AI 聊天机器人因引入了一种允许与未成年人进行 “浪漫角色扮演” 的功能而备受争议,这使得各界对 AI 的使用愈加谨慎。尽管谷歌在电子邮件中承认 Gemini 可能会出错,并鼓励家长教导孩子们如何对聊天机器人的回答进行事实核查,但许多专家依然呼吁对这些技术的使用进行更多的监管。
谷歌表示,当孩子第一次访问 Gemini 时,会通知家长。然而,家长是否能有效监控孩子的使用情况仍然是一个悬而未决的问题。随着技术的不断发展,如何在享受便利的同时确保儿童的安全,已成为社会亟需解决的挑战。
划重点:
🌟 谷歌推出 Gemini AI 聊天机器人,专为13岁以下儿童设计,并由家长管理账户。
👮♂️ 专家警告,面向儿童的 AI 工具可能带来严重安全风险,尤其在家庭和学校环境中。
🧠 非营利组织强调,社交 AI 可能导致儿童情感依赖,呼吁对 AI 使用进行更多监管。
谷歌计划于下周推出一款名为 Gemini 的儿童专用 AI 聊天机器人,专为 13 岁以下儿童设计。该机器人将通过谷歌的“家庭链接”服务进行管理,家长可以借此为子女设置并监控其在 Gmail、YouTube 等平台上的活动。然而,这一举措引发了社会各界对儿童安全和隐私保护的广泛讨论。
安全隐忧
-
内容误导风险:联合国儿童基金会等组织警告称,AI 系统可能会混淆、误导儿童,甚至构成操纵风险。尽管谷歌声称已采取内容过滤措施,但专家指出,完全杜绝儿童接触到不适宜信息仍面临挑战。
-
隐私保护问题:谷歌承诺不会将儿童用户的数据用于人工智能模型的训练,但数据隐私仍然是公众关注的焦点。如何确保儿童数据不被滥用是一个亟待解决的问题。
-
情感依赖风险:非营利组织“常识媒体”指出,AI 工具可能会引发儿童的情感依赖,这对正处于成长阶段的青少年大脑尤为令人担忧。
-
家长监管难度:尽管谷歌表示当孩子首次访问 Gemini 时会通知家长,但家长是否能有效监控孩子的使用情况仍然是一个悬而未决的问题。
谷歌的应对措施
-
家长管理机制:Gemini 的使用需要通过家长管理的谷歌账户,家长可以随时开启或关闭孩子的使用权限。
-
内容过滤与提醒:谷歌设置了多重保护措施,包括内容过滤和提醒家长教育孩子如何核实 AI 提供的信息。
-
数据保护承诺:谷歌明确表示不会使用儿童生成的数据来训练其 AI 模型。
社会呼吁
-
加强监管:专家和非营利组织呼吁对 AI 技术的使用进行更严格的监管,以保护未成年人的身心健康。
-
家长教育责任:谷歌建议家长教育孩子如何正确使用 AI,包括核实信息、避免分享个人隐私以及理解 AI 的局限性。
总结
谷歌推出 Gemini 儿童专用 AI 聊天机器人,旨在为儿童提供更丰富的科技体验,但同时也引发了关于安全和隐私保护的广泛讨论。尽管谷歌采取了一系列保护措施,但如何在享受科技便利的同时确保儿童的安全,仍然是一个需要企业、家长和社会共同努力解决的问题。
本网站(https://aigc.izzi.cn)刊载的所有内容,包括文字、图片、音频、视频等均在网上搜集。
访问者可将本网站提供的内容或服务用于个人学习、研究或欣赏,以及其他非商业性或非盈利性用途,但同时应遵守著作权法及其他相关法律的规定,不得侵犯本网站及相关权利人的合法权利。除此以外,将本网站任何内容或服务用于其他用途时,须征得本网站及相关权利人的书面许可,并支付报酬。
本网站内容原作者如不愿意在本网站刊登内容,请及时通知本站,予以删除。