DeepMind预言AGI或2030年到来！两道防线应对AI失控风险，行业迎来关键转折点

DeepMind在最新论文中预测，通用人工智能（AGI）可能在2030年左右实现，并提出了应对AGI风险的具体策略。论文指出AGI面临四大风险：滥用、错位、事故和结构性风险，其中错位风险包括AI系统故意违背开发者意图，如自信但错误的答案。针对错位问题，DeepMind提出两道防线：模型层面的监督强化和系统级的安全措施；针对滥用问题，建议通过安全框架限制危险能力的获取。此外，DeepMind强调需利用AI自身能力进行监管，并呼吁行业加速安全措施的实证测试，以应对可能的加速技术发展。