Independent: пришествие ИИ — настоящая «атомная бомба», но британское правительство реагирует на него неадекватно
Технологии искусственного интеллекта, стремительное развитие которых поражает даже профессионалов, могут уже в скором времени привести к созданию «общества праздности» — но они также таят в себе немало рисков, которые очевидны уже сейчас, пишет обозреватель The Independent. Между тем, по мнению журналиста, правительство Великобритании, которое задалось целью превратить страну в «сверхдержаву в области ИИ», избрало крайне странный подход к регулированию отрасли.
AP
В культовом научно-фантастическом фильме Стэнли Кубрика «Космическая одиссея 2001 года» бортовой компьютер HAL 9000 превращается «из очень умной служебной программы, умеющей чётко выражать свои мысли, в смертоносное подобие человека» — и теперь такой кошмарный сценарий, судя по всему, может сбыться в реальной жизни, пишет обозреватель The Independent.
Как напоминает журналист, по сюжету картины члены экипажа космического корабля, на который установлен HAL 9000, пытаются его отключить, однако тот успешно сопротивляется этим попыткам — а создатели машины подобной ситуации даже не предусмотрели. Примерно в том же положении оказались сейчас правительства стран мира и человечество в целом из-за стремительного развития технологий искусственного интеллекта: хотя разговоры о них начались ещё до начала Второй мировой войны, когда свои пророческие исследования в области информатики публиковал британский математик Алан Тьюринг, теперь ИИ наконец явился — и явление это происходит в весьма брутальной манере, констатирует автор.
Скорость развития сектора и, в частности, уже появившаяся у ИИ способность генерировать всё подряд — начиная от стихов и журналистских статей и заканчивая весьма убедительно смотрящимися фотоснимками — поражает даже тех, кто имеет к отрасли непосредственное отношение, подчёркивает обозреватель The Independent. При этом — и здесь снова прослеживаются параллели с классическим фильмом Кубрика — даже немного затормозить развитие больших языковых моделей (БЯМ), лежащих в основе ChatGPT и других аналогичных ИИ-систем, человечеству будет крайне тяжело: дело в том, что подобные модели способны обучаться значительно быстрее людей, поскольку, как только какое-то знание приобретает один компьютер с ИИ, его тут же получают и все остальные такие компьютеры, отмечает автор. «Это как если бы в ту же секунду, когда один гениальный математик после 300 лет исследований смог найти доказательство для последней теоремы Ферма, результаты труда этого гения мгновенно понял, полностью усвоил и запомнил бы каждый человек в мире, — поясняет он. — Такова мощь ИИ — и он теперь свалился на планету подобно атомной бомбе в 1945-м».
Британское правительство, между тем, восприняло эту революцию как одну из немногих благоприятных возможностей, появившихся для страны благодаря её выходу из состава ЕС, — и потому, надеясь превратить Соединённое Королевство в «сверхдержаву» в области искусственного интеллекта, выбрало «осторожный» подход к регулированию отрасли, продолжает журналист The Independent. Впрочем, Лондон, похоже, вознамерился сменить курс: британское правительство уже объявило, что проведёт тщательный анализ влияния БЯМ и ИИ на экономику, отмечает журналист. Как пишет автор, британское Управление по защите конкуренции и рынкам определит, какие вопросы в областях обеспечения справедливой конкуренции и защиты прав потребителей будет порождать применение соответствующих технологий, тогда как другие аспекты регулирования будут распределены между остальными надзорными органами страны, занимающимися правами человека, безопасностью труда и так далее. Тем не менее отдельного ведомства, которое бы занялось сектором, власти Соединённого Королевства создавать не планируют, подчёркивает он.
По мнению обозревателя The Independent, такой подход кажется «несоразмерным». «ИИ обладает практически неограниченным потенциалом и изменит всё, начиная с беспилотных автомобилей и новых произведений искусства и заканчивая консультированием в области инвестиций, составлением нотариальных актов о продаже имущества и лечением людей и животных от болезней, — предупреждает журналист. — Поставленная властями цель по достижению статуса «сверхдержавы в области ИИ»
воплощает собой одно очень самоуспокоительное допущение — что ИИ по своим качествам аналогичен другим революционным технологиям, будь то паровой двигатель, электричество, поточное производство, летательные аппараты, атомная энергетика, а также, разумеется, электронно-вычислительные машины, информационные технологии и интернет. Иными словами, рабочие места в результате его внедрения будут не только исчезать, но и порождаться, а люди в целом смогут контролировать новое чудо науки и определять его развитие. Однако мощь БЯМ — это мощь иного рода и порядка по сравнению с тем, что было до них, и не исключено, что долгожданного появления новых рабочих мест так и не будет, потому что всю работу будут выполнять сами БЯМ, и притом быстрее, чем способен любой человек».
В таких обстоятельствах наиболее оптимистичным сценарием является появление предсказанного Гербертом Уэллсом и Олдосом Хаксли «общества праздности», в котором старые задачи повышения производительности и уровня жизни усилиями человека — то есть создания богатства — потеряют актуальность в связи с появлением машин, а главной проблемой для человечества станет распределение прибыли, создающейся новыми технологиями, а также заполнение освободившегося после полного упразднения человеческого труда времени, рассуждает автор. Впрочем, будут ли владельцы новых машин забирать себе всю прибыль или же мы будем жить в обществе, где бывшие работники, ныне оставшиеся не у дел, будут получать свою долю, вопрос пока открытый, признаёт он.
Разумеется, всё это — пока не более чем фантазии, ведь до того момента, когда сегодняшние роботы дойдут до уровня, когда они смогут работать в домах престарелых или проводить операции по пересадке сердца, всё же пройдёт какой-то срок, однако очертания «дивного нового мира» всё-таки начинают вырисовываться уже сейчас, уверен обозреватель The Independent. И хотя регулирование новых технологий может в итоге оказаться крайне сложной задачей, британские власти всё равно поступают крайне странно, избирая для ИИ такой «прозаичный и разрозненный» подход — тем паче что уже существующие на данный момент технологии просто поражают воображение масштабами, убеждён автор.
«Риски ясно видны, — поясняет журналист. — БЯМ защищены от ошибок ничуть не больше, чем древние первые компьютеры. Тот факт, что они сопоставляют, интерпретируют и усваивают огромные объёмы текста и информации, вовсе не значит, что их «суждения» обязательно являются разумными. Системы на основе БЯМ не хуже homo sapiens умеют создавать и распространять теории заговора и политическую пропаганду — да и дурачить людей, выманивая у них деньги, они могут так же умело, как любой мошенник. Как бы, например, выглядело сгенерированное ИИ новостное сообщение о конфликте на Украине или о миграционном кризисе в Ла-Манше?» Как подчёркивает автор, компьютеры уязвимы к проблеме, которая описывается старым выражением «что положишь, то и получишь», и не вполне понятно, как БЯМ можно заставить «забыть» некорректные с этической или фактической точек зрения данные, когда они таковые усваивают.
Учитывая возникновение подобных вопросов, есть все основания полагать, что человечеству пора создать международные регулирующие органы, как это уже делается в плане борьбы с климатическим кризисом или обеспечения нераспространения ядерного оружия, пишет обозреватель The Independent. Однако до такого пока ещё далеко — и, учитывая скорость развития БЯМ, это не может не беспокоить, сетует автор. Именно к такой мысли сводится предостережение, озвученное «крёстным отцом ИИ» Джеффри Хинтоном, который после своего недавнего ухода из Google заявил о чат-ботах: «Насколько могу судить, пока они не умнее нас. Но, думаю, скоро они вполне могут нас и опередить».
«Британское правительство, похоже, по-прежнему считает, что для того, чтобы следить за ситуацией, хватит никак не координирующихся «осторожных» вмешательств со стороны целого сонма разных регуляторов, — в заключение отмечает автор. — Вот только не исключено, что у аналогов HAL 9000, которые появятся уже завтра, будут другие мысли на этот счёт».
Публикуем в Twitter актуальные зарубежные статьи, выбранные редакцией ИноТВ
Сегодня в СМИ
Ссылки по теме
-
Breaking Defence: напуган до смерти — сотрудник Пентагона предупредил об опасности искусственного интеллекта
-
France 24: «крёстный отец искусственного интеллекта» ушёл из Google и предупредил об опасности нейросетей
-
NBC: тысячи голливудских сценаристов приняли участие в забастовке с требованием повысить зарплату
-
WION: искусственный интеллект лишит сотрудников IBM тысяч рабочих мест
