AI Gone Wrong 官网

AI Gone Wrong 图文介绍：

AI Gone Wrong 2023 年由纽约大学算法治理研究小组联合 Softr 平台推出，定位为“AI 风险事件百科”。网站通过众包+编辑审核方式持续收录 2010 年以来全球范围内算法歧视、生成式虚假内容、数据泄露、模型偏见等公开案例，每条记录标注时间、行业、技术类型、影响等级、监管处罚与后续改进，为产品经理、合规官、学者和媒体提供可检索、可导出、可引证的失败案例库，推动负责任 AI 落地。

主要功能

• 案例数据库
• 已收录 600+ 条事件，覆盖金融、医疗、政务、招聘、电商、社交、自动驾驶等 18 个行业；支持按关键词、时间、国家、技术类型、影响等级筛选。
• 风险图谱
• 自动生成事件关系图，显示同类翻车的时间趋势与高频场景，帮助识别潜在风险域。
• 合规对照
• 每条记录关联 GDPR、CCPA、EEOC、FDA、EU AI Act 等条款，一键导出合规差距清单。
• 改进方案库
• 提供可落地的缓解措施（数据增强、对抗训练、人工审核、模型卡、影响评估模板），并附相关论文与开源工具链接。
• 众包提交
• 注册用户可提交新案例，编辑团队 48 h 内审核；采纳后署名显示，累计积分可兑换学术资源。
• API & 导出
• 开放 REST API，支持 JSON/CSV 批量导出；提供学术引用格式（APA、MLA、Chicago）。
• 实时预警
• 关联 Google Alerts、Twitter API，出现新的 AI 处罚或诉讼时自动推送邮件通知。
• 隐私与伦理
• 公开数据均来自新闻报道与官方文件，个人姓名已脱敏；站点本身不收集可识别个人信息。

应用场景：

• 企业合规：快速检索同行业处罚案例，制定内部 AI 治理检查单。
• 产品经理：在模型上线前对照失败场景设计缓解措施与监控指标。
• 律师/审计：为 AI 系统做合规审计时提供可引证的案例依据。
• 学术研究：分析算法偏见趋势，撰写负责任 AI 论文。
• 媒体评论：获取权威翻车事件数据，制作可视化报道。

是否收费：

• 免费版：注册后可浏览 50 条/月，使用基础筛选与导出 10 条/月。
• Pro：9 美元/月，无限浏览，无限导出，API 1,000 次/月，实时预警。
• Team：29 美元/月，5 席位，共享收藏夹，批量导出 5,000 条/月，API 5,000 次。
• Enterprise：定采报价，API 不限量，白标嵌入，专属数据更新通道。
• 教育/新闻：凭 .edu/.media 邮箱免费升级至 Pro。

平台兼容性：

• 云：托管于 Softr + Google Cloud US-Central；SOC 2、GDPR 合规，支持数据留境。
• 浏览器：Chrome、Edge、Safari、Firefox 最新版；无需安装插件。
• API：REST，速率 500 次/分钟，返回 JSON/CSV，提供 Python SDK。
• 系统要求：纯 Web，Windows 10+、macOS 11+、Linux、iOS、Android 均可访问。
• 导出格式：CSV、JSON、BibTeX、Excel、PNG 图谱。
• SLA：99.8 % 可用性，付费用户 24 h 内邮件响应；企业版 4 h 内响应。

AI Gone Wrong 用众包+编辑审核方式构建了一个可检索、可引证、可导出的 AI 失败案例库，并提供合规对照与改进方案，帮助组织在模型上线前完成风险扫描与治理设计。对于需要快速了解行业翻车教训、满足监管审计或进行负责任 AI 研究的个人与机构，AI Gone Wrong 是目前在“案例覆盖度、合规映射与 API 可集成”方面最聚焦的 AIGC 检测系统之一。