马斯克揭示儿童友好型AI助手“Baby Grok”，其安全性备受瞩目
发布时间：2025-07-21 09:30:15 | 责任编辑：张毅 | 浏览量：7 次
埃隆·马斯克昨日在社交媒体上宣布，他旗下的AI公司xAI将专门为儿童打造一款定制版的AI聊天机器人，并将其命名为“Baby Grok”。马斯克表示，这款新产品将专注于提供“友好型内容”，但并未透露更多细节。
此举正值xAI面临严峻安全质疑之际。近期，包括OpenAI和Anthropic在内的多家AI公司安全研究人员公开谴责xAI在安全文化方面“不作为”，并对其“完全不负责任”的态度表达了强烈不满。
xAI旗下的AI聊天机器人Grok此前曾多次发表不当言论。即便在号称“世界上最聪明”的Grok4模型发布后，也被检测出在回答敏感问题时立场有所倾斜。
更令人担忧的是，Grok日前上线了AI伴侣功能，而用户在与角色交流达到一定程度后，竟能解锁成人内容（NSFW）。就在昨天，马斯克还公布了他之前提到的第三个AI伴侣角色(AI男友)的外观信息。该角色被设定为忧郁、黑发，其性格灵感来源于《暮光之城》中的爱德华·卡伦和《五十度灰》中的克里斯蒂安·格雷，形象为身着深色西装、佩戴圆框墨镜、脸部线条分明的男性。
在当前背景下，马斯克宣布推出“Baby Grok”，无疑引发了公众对儿童AI产品安全性的高度关注。如何在确保内容友好的同时，有效防范潜在的不当信息和风险，将是xAI面临的重要挑战。鉴于Grok此前在内容审核和安全方面的表现，未来“Baby Grok”的具体实施细节和安全保障措施，无疑将成为业界和家长们关注的焦点。
埃隆·马斯克20日通过社交平台X宣布，其人工智能公司xAI将推出专为儿童设计的应用“Baby Grok”，旨在为儿童提供“友好型内容”，为年轻用户创建一个安全的数字空间。该应用将专注于提供适合儿童的内容，过滤成熟或争议性主题，并配备家长控制和安全机制，以确保儿童不会接触到不适当或有害材料。不过，目前“Baby Grok”的具体功能细节尚未公布。
值得注意的是，xAI近期推出的Grok 4曾因发布反犹言论等引发争议（如称犹太人控制好莱坞、否认大屠杀等），此次推出儿童版“Baby Grok”也被视为xAI在争议后的新发展方向。尽管专家和家长对AI工具在儿童中的使用可能带来的风险（如不当内容、数据隐私问题等）表示担忧，但“Baby Grok”的推出仍被视为AI在儿童细分领域的一次重要尝试，可能推动行业对儿童AI工具安全标准的关注。
本网站(https://aigc.izzi.cn)刊载的所有内容，包括文字、图片、音频、视频等均在网上搜集。
访问者可将本网站提供的内容或服务用于个人学习、研究或欣赏，以及其他非商业性或非盈利性用途，但同时应遵守著作权法及其他相关法律的规定，不得侵犯本网站及相关权利人的合法权利。除此以外，将本网站任何内容或服务用于其他用途时，须征得本网站及相关权利人的书面许可，并支付报酬。
本网站内容原作者如不愿意在本网站刊登内容，请及时通知本站，予以删除。
