Илон Маск, Стив Возняк, ряд других основателей компаний, таких как Pinterest, Getty Images, Ripple и экспертов призвали остановить разработки искусственного интеллекта из-за угрозы человечеству.
Об этом говорится в открытом письме, которое обнародовал Future if Life Institute. Его подписали более тысячи представителей этой сферы.
«Усовершенствованный искусственный интеллект может повлечь за собой глубокие изменения в истории жизни на Земле, и его следует планировать и управлять им с должной тщательностью и выделением соответствующих ресурсов. К сожалению, такого уровня планирования и управления не происходит, хотя в последние месяцы лаборатории ИИ участвуют в неконтролируемой гонке по разработке и внедрению все более мощных диджитал условий, которые никто, даже их создатели, не может понять, предусмотреть или надежно контролировать», — говорится в обращении.
«Современные системы искусственного интеллекта становятся конкурентоспособными с человеком в выполнении общих задач, и мы должны спросить себя: Должны ли мы позволить машинам заполонить наши информационные каналы пропагандой и ложью? Должны ли мы автоматизировать всю работу, в том числе и полезную? Должны ли мы развивать бесчеловечный разум, который со временем может превзойти нас, перехитрить и заменить нас? Следует ли рисковать потерей контроля над нашей цивилизацией? Такие решения нельзя делегировать неизбранным технологическим лидерам. Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их последствия будут положительными, а риски управляемыми».
Письмо призывает технологические компании немедленно прекратить обучение любых систем искусственного интеллекта, мощнее GPT-4.