谷歌预测人工智能通用智能（AGI）可能在2030年出现，但这一发展可能带来永久毁灭人类的风险，这一预测引发了广泛关注和担忧，因为通用智能的发展将极大地改变人类社会的面貌，但同时也可能带来不可预测的风险和挑战，对于未来的通用智能发展，需要谨慎和负责任的态度，以确保其利益最大化并最小化潜在风险。
电脑知识网4月7日消息，近日，谷歌旗下DeepMind实验室发布了一份长达145页的人工智能安全报告，预测具备人类智能水平的通用人工智能（AGI）可能在2030年左右问世，并可能“永久毁灭人类”。
在报告中研究人员指出，AGI可能带来导致人类永久灭绝的生存风险，他们强调，这一重要议题无法由DeepMind一家公司单方面解决，而应由整个社会共同参与讨论。
报告并未具体说明AGI将如何导致人类灭绝，主要篇幅集中在风险防控措施上。
报告将AGI带来的风险分为四个主要类别：
滥用风险（人类故意利用AI实施危害行为）、错位风险（系统发展出非预期的有害行为）、失误风险（因设计或训练缺陷导致的意外故障）和结构性风险（不同主体之间的利益冲突）。
研究人员还概述了DeepMind的风险缓解策略，重点在于防止滥用，并强调了尽早识别危险能力的重要性。
这篇论文还对Anthropic和OpenAI等竞争对手的安全策略表达了含蓄批评。
报告认为，Anthropic在严格训练和监督方面投入不足，而OpenAI则过度关注所谓的对齐研究（即确保AI系统的目标和行为与人类的价值观和利益保持一致）。
