За последние пару лет нейросети совершили огромный скачок вперед, превратившись в привычный инструмент, которым пользуются миллионы людей во всем мире. Но доверяем ли мы тем, кто создает эту технологию? Журналисты The New Yorker Ронан Фэрроу и Эндрю Маранц провели масштабное расследование, чтобы ответить на вопрос: можно ли верить Сэму Альтману — человеку, который, возможно, определяет наше цифровое будущее?
В центре расследования — внутренние документы OpenAI и личные записи сотрудников. В этих документах фиксируются доказательства того, что некоторые члены совета директоров назвали «систематической ложью» поведение Альтмана.
Когда в 2015 году создавался OpenAI, его основатели — Сэм Альтман, Илья Суцкевер, Грег Брокман и Илон Маск — провозгласили благородную миссию. Компания регистрировалась как некоммерческая, а ее совет директоров брал на себя обязательство ставить безопасность человечества выше успеха организации. Журналисты приводят слова Суцкевера, который заявлял, что «любой, кто работает над созданием технологии, способной изменить цивилизацию, несет на себе тяжкое бремя и берет на себя беспрецедентную ответственность».
Вскоре, однако, выяснилось, что публичные обещания Альтмана расходятся с реальностью.
Сооснователь OpenAI заявлял о необходимости строгого внешнего контроля за разработками нейросетей, а на деле, как сообщается, лоббировал снятие любых ограничений. Обещал выделить 20% вычислительных мощностей для группы исследователей, занимавшихся оценкой угрозы ИИ для человечества, а выделил только 2% — и то на устаревших чипах, в то время как все лучшее оборудование уходило на коммерческие проекты. Он также уверял совет директоров, что модель GPT-4 прошла все необходимые проверки безопасности, но расследование показало обратное. А в Индии ChatGPT, например, и вовсе запустили без положенных разрешительных процедур — и это решение тоже скрыли.
