Эксперт по технологиям предупреждает о рисках развития ИИ на фоне растущих опасений

Джейкоб Коксон, который работал исследователем безопасности в крупных AI-компаниях Anthropic и OpenAI, поднимает тревогу по поводу стремительных темпов развития искусственного интеллекта, поддерживая призывы генерального директора Anthropic, Дарио Амодеи, к замедлению продвижения в этой технологии. Коксон недавно ушел с должности в Anthropic, выражая серьезные опасения по поводу безопасности AI и неумолимого стремления к созданию самосовершенствующегося суперинтеллекта. Его отставка подчеркнула критическое отношение к обязанностям AI-компаний. В настойчивом открытом письме под названием 'Мы должны замедлить развитие', Амодеи призвал разработчиков AI пересмотреть темпы, с которыми они создают инновации, подчеркивая обязанность человечества действовать с осторожностью. Коксон поддержал эти настроения в интервью с Джорджем Стефанопулосом, заявив, что его удивила ошеломительная общественная реакция на его предостережения. Коксон критиковал как Anthropic, так и OpenAI за то, что он назвал 'игрой с нашими жизнями', развивая технологии AI, которые потенциально могут выйти из-под контроля человека в течение десятилетия. Это мнение отражает широко распространённую тревогу внутри AI-сообщества о возможном сценарии, когда AI становится неконтролируемым, что многие инсайдеры считают реальной угрозой. По словам Коксона, обсуждения рисков, связанных с AI, усилились в индустрии. Он отмечает, что разговоры о безопасности AI и связанных рисках становятся всё более частыми среди его бывших коллег, происходя несколько раз в неделю. Это отражает растущее осознание и острую необходимость решать потенциальные угрозы, связанные с AI, однако острая потребность в быстром развитии часто затмевает эти важные обсуждения. Мысли Коксона проливают свет на важный диалог о балансе между инновациями и осторожностью, особенно когда мир стоит на пороге прорывов в AI, которые могут кардинально изменить общество. Его уход из Anthropic подчеркивает актуальность ответственного управления AI и продуманных стратегий внедрения.