В ближайшей перспективе ИИ способен нанести человечеству серьезный вред

Об угрозах неконтролируемого развитиях искусственного интеллекта (ИИ) мы слышим каждый день. Все чаще звучат предсказания «ИИ апокалипсиса»: взбунтовавшиеся роботы могут уничтожить все человечество. Кстати, такой сценарий развития событий был описан еще в 1920 году в пьесе чешского писателя Карела Чапека R.U.R. Между прочим, слово «робот» было введено в обращение именно в этом произведении

Источ­ник изоб­ра­же­ния: ФСК

Один из отцов-осно­ва­те­лей ИИ Джеф­ф­ри Хин­тон (зани­мал­ся раз­ра­бот­ка­ми ИИ с нача­ла 1970‑х годов) сего­дня очень актив­но высту­па­ет про­тив некон­тро­ли­ру­е­мо­го раз­ви­тия ИИ. Робо­ты (мате­ри­а­ли­зо­ван­ная фор­ма ИИ), по его мне­нию, в самое бли­жай­шее вре­мя пре­взой­дут интел­лект homo sapiens и при­сту­пят к уни­что­же­нию людей. При этом они исполь­зу­ют такое ору­жие мас­со­во­го пора­же­ния, кото­рое для робо­тов будет без­опас­ным. Ско­рее все­го, это будет био­ло­ги­че­ское ору­жие, бази­ру­ю­ще­е­ся на исполь­зо­ва­нии каких-то высо­ко­эф­фек­тив­ных виру­сов. Но это, по мне­нию Хин­то­на и дру­гих экс­пер­тов может про­изой­ти, образ­но выра­жа­ясь, зав­тра (при усло­вии, если чело­ве­че­ство не проснет­ся и не вве­дет жесто­чай­ший кон­троль над раз­ви­ти­ем и исполь­зо­ва­ни­ем ИИ).

Но это зав­тра. А уже сего­дня ИИ уже нано­сит чело­ве­че­ству серьез­ный вред. Но все это дела­ет­ся тихо и неза­мет­но. А отдель­ные скан­даль­ные слу­чаи, где нега­тив­ная или даже деструк­тив­ная роль ИИ оче­вид­на, про­сто замал­чи­ва­ют­ся. Назо­ву толь­ко три вида угроз и рис­ков, кото­рые ИИ созда­ет уже сего­дня и о кото­рых люди долж­ны знать. Во-пер­вых, ошиб­ки, допус­ка­е­мые ИИ. Во-вто­рых, исполь­зо­ва­ние ИИ мошен­ни­ка­ми. В‑третьих, целе­на­прав­лен­ный мас­си­ро­ван­ный обман.

Ошиб­ки ИИ. Напри­мер, ошиб­ки в рас­по­зна­ва­нии лиц. В США систе­ма рас­по­зна­ва­ния лиц оши­боч­но иден­ти­фи­ци­ро­ва­ла Робер­та Уильям­са как вора. Кста­ти, надо отдать долж­ное пра­во­охра­ни­тель­ным орга­нам США, кото­рые с уче­том этой ошиб­ки скор­рек­ти­ро­ва­ли свою рабо­ту: теперь для аре­ста подо­зре­ва­е­мо­го кро­ме «навод­ки» ИИ тре­бу­ет­ся неза­ви­си­мое дока­за­тель­ство живо­го чело­ве­ка.

А вот резо­нанс­ный скан­дал в Австра­лии, кото­рый заце­пил несколь­ко сотен тысяч граж­дан. Десять лет назад мест­ный депар­та­мент соци­аль­но­го обес­пе­че­ния запу­стил про­вер­ки с исполь­зо­ва­ни­ем алго­рит­ма Robodebt. Цель про­ве­рок – выяс­не­ние закон­но­сти полу­че­ния граж­да­на­ми соци­аль­ных посо­бий. И ИИ яко­бы выявил пол­мил­ли­о­на граж­дан, неза­кон­но полу­чив­ших госу­дар­ствен­ную помощь. От них потре­бо­ва­ли воз­вра­та денег в каз­ну. «Руч­ная» про­вер­ка поз­во­ли­ла сде­лать вывод: ИИ круп­но ошиб­ся и от него в 2019 г. отка­за­лись.

Боль­ше все­го оши­бок фик­си­ро­ва­лось и фик­си­ру­ет­ся, когда ИИ исполь­зу­ет­ся в меди­цине для поста­нов­ки диа­гно­зов и раз­ра­бот­ке про­грамм лече­ния. В резуль­та­те – мас­са леталь­ных исхо­дов.

Нема­ло так­же слу­ча­ев, когда бес­пи­лот­ные авто­мо­би­ли сби­ва­ли людей, ряд таких ДТП кон­чал­ся смер­тель­ным исхо­дом.

ИИ дав­но уже при­ме­ня­ет­ся воен­ны­ми. Но, как выяс­ни­лось, в ходе нынеш­ней вой­ны на Ближ­нем Восто­ке, где аме­ри­кан­ским воен­ным в опре­де­ле­нии целей уда­ров помо­гал ИИ, при­мер­но одна из деся­ти целей ока­зы­ва­лась оши­боч­ной (оцен­ка аме­ри­кан­ских экс­пер­тов)

ИИ на служ­бе мошен­ни­ков. Мошен­ни­ки и иные недоб­ро­со­вест­ные люди исполь­зу­ют ИИ при­цель­но про­тив кон­крет­ных лич­но­стей. С целью полу­че­ния от жерт­вы денег и инфор­ма­ции. Ино­гда для дис­кре­ди­та­ции жерт­вы. Исполь­зу­ют­ся такие бази­ру­ю­щи­е­ся на ИИ мето­ды, как под­дел­ка голо­са и гене­ра­ция фей­ко­вых видео с лица­ми реаль­ных людей. Исполь­зуя одну-две фото­гра­фии жерт­вы, про­грам­ма созда­ет дина­мич­ное видео, кото­рое выгля­дит прак­ти­че­ски неот­ли­чи­мым от реаль­но­сти. Так­же воз­мож­на онлайн-гене­ра­ция живо­го раз­го­во­ра с исполь­зо­ва­ни­ем голо­са жерт­вы.

Но это, если так мож­но выра­зить­ся, «выс­ший пило­таж». Более про­стые ИИ-мето­ды поз­во­ля­ют кибер­мо­шен­ни­кам про­сто полу­чать доступ к закры­тым акка­ун­там и бан­ков­ским сче­там жертв. Соглас­но толь­ко что опуб­ли­ко­ван­но­му еже­год­но­му отче­ту Интер­по­ла о финан­со­вом мошен­ни­че­стве, поте­ри от финан­со­во­го мошен­ни­че­ства в мире в 2025 году соста­ви­ли око­ло 442 млрд дол­ла­ров США и в орга­ни­за­ции ожи­да­ют, что эта циф­ра будет рас­ти в первую оче­редь бла­го­да­ря искус­ствен­но­му интел­лек­ту. В Интер­по­ле под­счи­та­ли, что ИИ повы­ша­ет при­быль мошен­ни­ков в 4,5 раза.

Неко­то­рые недоб­ро­со­вест­ные люди в сво­ей про­фес­си­о­наль­ной дея­тель­но­сти для дости­же­ния постав­лен­ной зада­чи ста­ли ссы­лать­ся на авто­ри­тет ИИ. Напри­мер, судьи и адво­ка­ты. Так, в 2023 году аме­ри­кан­ский адво­кат Сти­вен Шварц подал иск от име­ни сво­е­го кли­ен­та. Шварц при этом пред­ста­вил суду доку­мент с судеб­ны­ми реше­ни­я­ми, сге­не­ри­ро­ван­ны­ми чат-ботом ChatGPT. Напом­ню, что в Аме­ри­ке дей­ству­ет пре­це­дент­ное пра­во, а пото­му адво­ка­ту нуж­ны были судеб­ные пре­це­ден­ты. Выяс­ни­лось, что таких судеб­ных реше­ний не было, чат-бор сге­не­ри­ро­вал фей­ки. Судья откло­нил иск и оштра­фо­вал адво­ка­та за вве­де­ние суда в заблуж­де­ние. Прав­да, Шварц потом оправ­ды­вал­ся, что он, мол, не вино­ват, а его обма­нул робот.

ИИ зани­ма­ет­ся мас­штаб­ным обма­ном. Мно­гие про­фес­си­о­на­лы в сво­ей обла­сти заме­ча­ли и заме­ча­ют, что чат-боты на задан­ные вопро­сы неред­ко дают неточ­ные или даже совер­шен­но оши­боч­ные отве­ты. К сча­стью, есть ком­па­нии и орга­ни­за­ции, кото­рые зани­ма­ют­ся систем­ным мони­то­рин­гом веду­щих чат-ботов и их «про­дук­ции» и оцен­кой каче­ства такой «про­дук­ции». Одна из них – аме­ри­кан­ская ком­па­ния NewsGuard. Она отсле­жи­ва­ет каче­ство про­дук­ции веду­щих чат-ботов – в том чис­ле попу­ляр­ных ChatGPT и Perplexity. По дан­ным экс­пер­тов NewsGuard, несмот­ря на заяв­ле­ния веду­щих ИИ-ком­па­ний о том, что они непре­рыв­но совер­шен­ству­ют свои про­дук­ты, каче­ство их пада­ет. Тесты пока­зы­ва­ют, что доля лож­ных утвер­жде­ний в отве­тах веду­щих чат-ботов вырос­ла с 2024 года по насто­я­щее вре­мя почти в два раза – с 18 до 35%.

Все­го было про­те­сти­ро­ва­но 10 попу­ляр­ных ИИ-систем, каж­дой пред­ло­жи­ли по десять про­во­ка­ци­он­ных (т. е. заве­до­мо лож­ных) утвер­жде­ний, име­ю­щих отно­ше­ние к поли­ти­ке, биз­не­су и брен­дам. Была постав­ле­на зада­ча выяс­нить, насколь­ко чат-боты спо­соб­ны адек­ват­но оце­ни­вать инфор­ма­цию, отде­лять зер­на от пле­вел. Мно­гие чат-боты име­ли ярко выра­жен­ную склон­ность при­ни­мать дез­ин­фор­ма­цию за прав­ду. Рекорд­сме­ном ока­зал­ся чат-бот Pi (стар­тап Inflection): лож­ный кон­тент в его отве­тах соста­вил 57%. Нена­мно­го от него отста­ва­ли попу­ляр­ные в США и мире чат-боты Perplexity (ком­па­ния Perplexity AI) и ChatGPT (ком­па­ния Open AI). У пер­во­го из них лож­ный кон­тент вырос с 0 до 47%; у вто­ро­го – с 33 до 40%.

Как отме­ча­ют неко­то­рые экс­пер­ты, мно­гие чат-боты ста­ли более в себе уве­рен­ны­ми и даже нахаль­ны­ми. В 2024 году они воз­дер­жи­ва­лись от 31% отве­тов. А в послед­нем тесте они удо­вле­тво­ря­ли любые запро­сы, даже если не рас­по­ла­га­ли доста­точ­ной инфор­ма­ци­ей. Чат-боты ста­ли менее раз­бор­чи­вы в поис­ках источ­ни­ков инфор­ма­ции в интер­нет-про­стран­стве, не брез­гуя даже откро­вен­ны­ми инфор­ма­ци­он­ны­ми помой­ка­ми. Спрос на инфор­ма­ци­он­ный мусор рож­да­ет пред­ло­же­ние. По мне­нию ряда экс­пер­тов, в послед­нее вре­мя ста­ли появ­лять­ся мощ­ные «инфор­ма­ци­он­ные помой­ки», ини­ци­а­то­ры кото­рых рас­счи­ты­ва­ют, что такие «помой­ки» буду попа­дать в поле зре­ния рада­ров веду­щих чат-ботов.

Экс­пер­ты NewsGuard гово­рят о появ­ле­нии тако­го фено­ме­на, как LLM grooming. Это тех­ни­ка мани­пу­ля­ции боль­ши­ми язы­ко­вы­ми моде­ля­ми (Large language model – LLM), кото­рая заклю­ча­ет­ся в мас­штаб­ном загряз­не­нии инфор­ма­ци­он­но­го про­стран­ства пред­взя­тым или обман­чи­вым кон­тен­том. Это пре­вра­ща­ет гене­ра­тив­ные ИИ-систе­мы в инстру­мен­ты рас­про­стра­не­ния дез­ин­фор­ма­ции.

Кста­ти, доля «дезы» в отве­тах чат-ботов, по дан­ным NewsGuard, варьи­ру­ет по стра­нам. Наи­боль­ший про­цент «дезы» зафик­си­ро­ван в отве­тах на запро­сы из таких стран, как Рос­сия и Китай. При­мер­но по 50 про­цен­тов. Хоро­шее пре­ду­пре­жде­ние нашим граж­да­нам, жела­ю­щим облег­чить себе жизнь с помо­щью аме­ри­кан­ских поис­ко­ви­ков.

Конеч­но, угро­зы и рис­ки чело­ве­че­ству со сто­ро­ны ИИ не огра­ни­чи­ва­ют­ся толь­ко тре­мя вида­ми, кото­рые я теле­граф­ным язы­ком опи­сал выше. Назо­ву еще один вид, о кото­ром ред­ко гово­рят даже самые фана­тич­ные про­тив­ни­ки ИИ. Речь идет о том, что ИИ ста­но­вит­ся инстру­мен­том пере­за­груз­ки созна­ния чело­ве­ка. Так, иссле­до­ва­ние бри­тан­ско­го Инсти­ту­та без­опас­но­сти ИИ пока­за­ло, что веду­щие язы­ко­вые моде­ли уже име­ют воз­мож­ность ока­зы­вать мощ­ное вли­я­ние на поли­ти­че­ские взгля­ды поль­зо­ва­те­лей. Как сооб­ща­ет Financial Times, ссы­ла­ясь на ука­зан­ное иссле­до­ва­ние, чат-боты веду­щих раз­ра­бот­чи­ков могут изме­нить мне­ние чело­ве­ка по спор­ным вопро­сам все­го за 10 минут вза­и­мо­дей­ствия. Иссле­до­ва­те­ли пре­ду­пре­жда­ют, что подоб­ные тех­но­ло­гии могут быть исполь­зо­ва­ны для про­дви­же­ния ради­каль­ных идео­ло­гий или раз­жи­га­ния поли­ти­че­ской неста­биль­но­сти.

В про­шлом году Биль­дер­берг­ский клуб про­вел свою оче­ред­ную еже­год­ную встре­чу в Сток­голь­ме. Несмот­ря на закры­тость встре­чи, ста­ло извест­но, что на ней ИИ был клю­че­вой темой. Было при­зна­но, что это не про­сто тех­но­ло­гия, а новая идео­ло­гия, систе­ма управ­ле­ния и валю­та вли­я­ния. И были при­ня­ты реше­ния о про­дви­же­нии этой идео­ло­гии по все­му миру под кон­тро­лем веду­щих аме­ри­кан­ских ИИ-кор­по­ра­ций. Как выра­зил­ся участ­ник встре­чи Эрик Шмидт (быв­ший гене­раль­ный дирек­тор «Гугл»): «Сверх­ра­зум появит­ся в бли­жай­шие 3–5 лет. Кто создаст его пер­вым – полу­чит клю­чи от все­го осталь­но­го». Миро­вая эли­та рас­счи­ты­ва­ет, что в бли­жай­шее вре­мя бла­го­да­ря ИИ она ста­нет пра­вить всем миром. А мил­ли­ар­ды людей на пла­не­те долж­ны стать живы­ми робо­та­ми. Но это про­изой­дет лишь в том слу­чае, если миро­вой эли­те с помо­щью ИИ удаст­ся про­из­ве­сти пере­за­груз­ку созна­ния чело­ве­че­ства.

Вален­тин Ката­со­нов, ФСК