Настоящая проблема развития ИИ заключается не в самой технологии — а в том, чему мы его учим. Если система ИИ будет ставить поиск истины превыше всего и будет действительно существовать в симбиотических отношениях с людьми, мы можем решить некоторые серьезные проблемы. Но есть риск: ИИ, построенный на противоречивых ценностях или с неправильными стимулами? Вот тогда ситуация становится опасной. Выживание человечества зависит от правильной настройки ИИ. Нам нужны системы, которые ясно мыслят, ценят точность и рассматривают людей как партнеров — а не как препятствия или ресурсы для оптимизации.