AI滥用风险加剧：Claude被曝用于恶意活动

Anthropic公司指出其AI模型Claude被恶意滥用，用于舆论引导、凭证填充、招聘诈骗及恶意软件开发等。案例包括利用AI创建虚假账号传播政治偏见，以及通过Claude优化系统进行密码测试和开发恶意软件。尽管未确认实际部署成功，但显示AI技术降低了恶意行为的技术门槛。Anthropic已采取安全措施，但仍需警惕未来更复杂的滥用。