- Автор темы
- #1
ИИ убьёт человечество в ближайшие ДЕСЯТЬ ЛЕТ — ученые БЬЮТ ТРЕВОГУ в официальном докладе (https://assets.publishing.service.g...tional_AI_Safety_Report_2025_accessible_f.pdf) о безопасности ИИ
Основные причины тряски:
• ИИ уже научился обманывать, и он делает это скрытно. Люди не работают над безопасностью системы, а тратят все ресурсы, чтобы сделать ИИ умнее
• Любая задача может превратить ИИ в машину для убийств: если цель системы «принести кофе», то она станет для неё главной, ИИ будет стремиться устранить любые препятствия для выполнения, включая самих людей
• Опенсорсные модели уже разлетелись по миру на миллионы устройств, и в случае критических проблем их невозможно будет отозвать или обновить
Ждём внезапный ребрендинг OpenAI в SkyNet.