Существуют противоречивые взгляды на риски для человечества, связанные с искусственным интеллектом, а некоторые даже заходят так далеко, что предполагают, что ИИ может привести к исчезновению людей. Удивительно, однако, что последнее мнение разделяют многие ведущие эксперты в области искусственного интеллекта, в том числе руководители OpenAI и Google DeepMind…
Это своего рода заявление, которое вы обычно ожидаете от теоретиков заговора, живущих в подвале своей мамы, но у этого не могло быть более безупречных полномочий. Подписанты похожи на «Кто есть кто» в области технологий в целом и науки об искусственном интеллекте в частности.
Среди подписантов есть известные ученые и, что характерно, Сэм Альтман, генеральный директор OpenAI, и Демис Хассабис, генеральный директор Google DeepMind.
Предупреждение приходит в виде одного предложения:
Снижение риска исчезновения из-за ИИ должно стать глобальным приоритетом наряду с другими рисками социального масштаба, такими как пандемии и ядерная война.
В преамбуле говорится, что заявление предназначено для начала обсуждения, но также говорится, что все большее число экспертов действительно считают, что ставки могут быть такими высокими.
Эксперты по ИИ, журналисты, политики и общественность все чаще обсуждают широкий спектр важных и неотложных рисков, связанных с ИИ. Тем не менее, может быть трудно выразить озабоченность по поводу некоторых наиболее серьезных рисков передового ИИ. Приведенное ниже краткое заявление призвано преодолеть это препятствие и открыть дискуссию. Он также предназначен для создания общих знаний о растущем числе экспертов и общественных деятелей, которые также серьезно относятся к некоторым из наиболее серьезных рисков передового ИИ.
The NY Times отмечает, что среди подписантов также есть два крупнейших имени в области искусственного интеллекта.
Джеффри Хинтон и Йошуа Бенджио, двое из трех исследователей, получивших премию Тьюринга за свою новаторскую работу в области нейронных сетей и часто считающихся «крестными отцами» современного движения ИИ, подписали это заявление, как и другие видные исследователи в этой области (The третий обладатель премии Тьюринга, Янн ЛеКун, который возглавляет исследования Meta в области искусственного интеллекта, не подписал контракт со вторником.)
Это следует за более ранним открытым письмом, призывающим к шестимесячной паузе в разработке более продвинутых моделей генеративного ИИ. Среди подписантов был соучредитель Apple Стив Возняк.
В письме говорится, что текущее развитие ИИ выходит из-под контроля и может представлять «серьезные риски для общества и человечества».
Последнее письмо было охарактеризовано как «открытое» для экспертов по ИИ, которые выражали свои опасения в частном порядке, но до сих пор боялись делать это публично, опасаясь насмешек. Письмо обеспечивает безопасность в количестве и в репутации, поскольку теперь потребуется еще более смелый человек, чтобы развеять опасения, выраженные столькими светилами.
Какова ваша точка зрения? Может ли ИИ представлять экзистенциальную угрозу человечеству? Пожалуйста, поделитесь своими мыслями в комментариях.
Изображение: Google DeepMind/Unsplash
