Обзор книги: 'Если кто-то его создаст-все погибнут' Э.Юдковский, Н.Соарес
С самых ранних лет я имел возможности и желания заниматься многими вещами.
Главными отсекающими критериями для любого занятия являлись всегда только безопасность и безвредность. Поэтому я прочитал эту книгу.
Вычисляя векторы-градиенты и изучая метоты оптимизации с использованием градиентного спуска на младших курсах университета, я и представить себе не мог, что это может стать инструментами для уничтожения человечества. Поэтому, чувствуя собственную сопричастность к этой области, я решил присоединиться к авторам этой книги: подсветить проблему, обратить внимание, порекомендовать задуматься.
Книга недавно вышла на русском языке, оригинал был опубликован год назад и многие вещи, прогнозируемые события уже свершаются на наших глазах. Книга имеет большой объем аудитории и резонанс. Научный редактор издания на русском языке авторитетен и уважаем, его примечания уместны и точны. Книга доступна для понимания и понятна, на мой взгляд. Иногда ощущаются перегибы в сторону критики фронтирных компаний, но это можно принять.
Рекомендую к прочтению и обсуждению. Структура изложения и разбиения на части мне не очень понравилась, чувства целостности не возникло.
Ключевые идеи
- Определенные риски существуют: Их надо распознать на ранних стадиях и управлять ими.
- Если страшилка сработает: Потом будет трудно остановить необратимые процессы.
Человечество стремиться создать нечно поистине новое. Если кому-то это удастся - все погибнут