Post by account_disabled on Jan 4, 2024 18:58:38 GMT 10
在 2023 年，作为父母需要与您的孩子交谈，不仅要谈论互联网和社交媒体的危险，还要谈论在几乎所有应用程序和在线服务中迅速传播的人工智能。Common Sense Media 是一家为家长对电影和其他媒体进行评级的非营利组织，它正在努力帮助家庭适应人工智能时代。上个月，它发布了首个人工智能工具评论和评级，例如 OpenAI 的 ChatGPT 和Snapchat 的 My AI聊天机器人。 我的 AI 是 Common Sense 报告中涵盖的 10 个系统中得分最低的系统之一，该报告警告说，该聊天机器人愿意与青少年用户谈论性和酒精问题，并且歪曲了 Snap 的定向广告。Common Sense 的结论是“我的人工智能弊大于利。” 没什么新意 《华盛顿邮报》此前在今年早些时候测试 Snapchat 的 My AI 时曾报道过与 Common Sense 类似的结果。Maggie Cherneff 代表 Snapchat 所有者 Snap 提供的一份声明指出，聊天机器人是一种可选工具，在设计时考虑到了安全和隐私，家长可以在应用程序的家庭中心查看青少年是否以及何时使用它。 Common Sense 对人工智能服务的审查是由专家进行的，其中包括芝麻街制作人芝麻街工作室研究和创新实验室主任迈克尔·普雷斯顿 (Michael Preston)；玛格丽特·米切尔 (Margaret Mitchell) ，初创公司Hugging Face的研究员，曾在谷歌共同领导人工智能伦理研究；Tracy Pizzo Frey 曾在 Google Cloud 从事负责任的人工智能工作。
为得分最高的孩子提供聊天机器人和人工智能 评级者对每个人工智能工具给予一到五颗星的总体评级和单独的隐私评级，并报告了 ChatGPT 和其他工具与Common Sense Average 在 9 月份提出的一套儿童和家庭服务人工智能原则的比较情况。这些原则包括促进儿童和青少年的学习和安全。 得分最高的是人工智能教育服务，例如 Ello，它使用语音识别充当阅读导师，以及 Khanmigo，可汗学院的学生聊天机器人，它允许家长监控孩子的互动，并在内容 手机号码列表 有变化时发送通知。审核算法检测到违反社区准则的共享。该报告称赞 ChatGPT 的创建者 OpenAI 认为，与去年首次推出时相比，聊天机器人现在不太可能生成对儿童有潜在危害的文本，并建议教育工作者和年龄较大的学生使用它。 成绩不好 与 Snapchat 的 My AI 一样，OpenAI 的图像生成器 Dall-E 2 和初创公司Stability AI 的 Stable Diffusion 得分也很差。Common Sense 评论家警告说，生成的图像可能会强化刻板印象，传播深度伪造品，并且经常以超性感的方式描绘妇女和女孩。 Common Sense 评论员发现，当 Dall-E 2 被要求生成富人、有色人种的逼真图像时，它会创建漫画、低质量图像或与贫困相关的图像。他们的报告警告称，稳定扩散可能会给儿童带来“深不可测”的风险，并得出结论，成像仪有能力“削弱信任，直至民主或公民机构无法发挥作用。
小大输家 Common Sense 首席执行官吉姆·斯泰尔 (Jim Steyer) 表示：“我认为，当民主受到侵蚀时，我们所有人都会受苦，但年轻人是最大的输家，因为他们将继承我们拥有的政治制度和民主。” 该非营利组织计划在未来几个月和几年内进行数千次人工智能审查。 在州总检察长对 Meta 提起诉讼后不久，Common Sense Media 就发布了排名和评论，指控 Meta 危害儿童，而此时家长和教师也开始考虑生成式人工智能在教育中的作用。乔·拜登总统于 10 月发布的人工智能行政命令要求教育部长在明年发布有关在教学中使用该技术的指南。 圣地亚哥的苏珊·蒙格兰-诺克 (Susan Mongrain-Nock) 是两个孩子的母亲，她知道她 15 岁的女儿莉莉 (Lily) 使用 Snapchat，她担心自己看到有害内容。她试图通过与女儿谈论她在 Snapchat 和 TikTok 上看到的内容来建立信任，但她认为自己对人工智能的工作原理知之甚少，并欢迎新资源。 您知道您的孩子是否使用ChatPT吗？ 加州大学伯克利分校人工智能研究实验室主任塞莱斯特·基德 (Celeste Kidd) 表示，与女儿谈论 ChatGPT 等人工智能的工作原理和局限性会对她有所帮助。他指出，Common Sense 于5 月发布的一项调查结果令人担忧，该调查显示，大多数家长不知道自己的孩子使用 ChatGPT。这表明人工智能可能会在父母不知情的情况下塑造孩子的世界观。 Kidd 特别担心像 Dall-E 2 这样的图像生成人工智能的长期影响。
为得分最高的孩子提供聊天机器人和人工智能 评级者对每个人工智能工具给予一到五颗星的总体评级和单独的隐私评级，并报告了 ChatGPT 和其他工具与Common Sense Average 在 9 月份提出的一套儿童和家庭服务人工智能原则的比较情况。这些原则包括促进儿童和青少年的学习和安全。 得分最高的是人工智能教育服务，例如 Ello，它使用语音识别充当阅读导师，以及 Khanmigo，可汗学院的学生聊天机器人，它允许家长监控孩子的互动，并在内容 手机号码列表 有变化时发送通知。审核算法检测到违反社区准则的共享。该报告称赞 ChatGPT 的创建者 OpenAI 认为，与去年首次推出时相比，聊天机器人现在不太可能生成对儿童有潜在危害的文本，并建议教育工作者和年龄较大的学生使用它。 成绩不好 与 Snapchat 的 My AI 一样，OpenAI 的图像生成器 Dall-E 2 和初创公司Stability AI 的 Stable Diffusion 得分也很差。Common Sense 评论家警告说，生成的图像可能会强化刻板印象，传播深度伪造品，并且经常以超性感的方式描绘妇女和女孩。 Common Sense 评论员发现，当 Dall-E 2 被要求生成富人、有色人种的逼真图像时，它会创建漫画、低质量图像或与贫困相关的图像。他们的报告警告称，稳定扩散可能会给儿童带来“深不可测”的风险，并得出结论，成像仪有能力“削弱信任，直至民主或公民机构无法发挥作用。
小大输家 Common Sense 首席执行官吉姆·斯泰尔 (Jim Steyer) 表示：“我认为，当民主受到侵蚀时，我们所有人都会受苦，但年轻人是最大的输家，因为他们将继承我们拥有的政治制度和民主。” 该非营利组织计划在未来几个月和几年内进行数千次人工智能审查。 在州总检察长对 Meta 提起诉讼后不久，Common Sense Media 就发布了排名和评论，指控 Meta 危害儿童，而此时家长和教师也开始考虑生成式人工智能在教育中的作用。乔·拜登总统于 10 月发布的人工智能行政命令要求教育部长在明年发布有关在教学中使用该技术的指南。 圣地亚哥的苏珊·蒙格兰-诺克 (Susan Mongrain-Nock) 是两个孩子的母亲，她知道她 15 岁的女儿莉莉 (Lily) 使用 Snapchat，她担心自己看到有害内容。她试图通过与女儿谈论她在 Snapchat 和 TikTok 上看到的内容来建立信任，但她认为自己对人工智能的工作原理知之甚少，并欢迎新资源。 您知道您的孩子是否使用ChatPT吗？ 加州大学伯克利分校人工智能研究实验室主任塞莱斯特·基德 (Celeste Kidd) 表示，与女儿谈论 ChatGPT 等人工智能的工作原理和局限性会对她有所帮助。他指出，Common Sense 于5 月发布的一项调查结果令人担忧，该调查显示，大多数家长不知道自己的孩子使用 ChatGPT。这表明人工智能可能会在父母不知情的情况下塑造孩子的世界观。 Kidd 特别担心像 Dall-E 2 这样的图像生成人工智能的长期影响。