|
Привет! Мы посылаем вам «Сигнал».
В 150-й раз. Спасибо вам, что читаете, что пересылаете наши письма своим друзьям и знакомым и что пишете нам с конструктивной критикой и предложениями новых тем (адрес прежний: signal@meduza.io).
Сегодняшнее письмо — об искусственном интеллекте. Ученые, айтишники, белые воротнички, студенты и школьники возлагают на него огромные надежды. Политики и военные — стремятся использовать в собственных целях.
Часто фраза «задачу решит искусственный интеллект» означает, что над этим недостаточно подумал интеллект естественный. Аббревиатура же ИИ все чаще применяется неосознанно, просто потому что с ИИ все получается (и продается) лучше.
Мы попытались разобраться, что такое ИИ, зачем он нужен, а главное — к чему все движется.
Если вашим близким и друзьям может быть интересно это письмо, перешлите его или ссылку на веб-версию. Прочесть больше выпусков, а также решить, подписываться ли на рассылку, подкаст, твиттер и телеграм, всегда можно на нашем сайте.
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ
Технологиям искусственного интеллекта много лет, но массовый интерес к ним возник в 2011–2012 годах. Тогда случился прорыв в так называемом глубоком обучении (хорошее простое руководство по нейросетям, например, здесь).
Появилась возможность решать как реально сложные задачи вроде распознавания речи, так и прикладные — например, задачу распознавания котов на YouTube. Победа «глубокой» сети AlexNet на конкурсе классификации изображений ImageNet осенью 2012 года продемонстрировала преимущество этого подхода над другими.
С середины 2010-х годов каждая крупная технокорпорация и множество перспективных стартапов так или иначе использовали и развивали нейросетевые технологии. ИИ оказался применим почти везде. Например, если у Google в 2012 году было два проекта в области глубокого обучения, то в 2016-м — больше тысячи. Бурный рост этой области не мог не обратить на себя внимания властей по всему миру.
Пристальное внимание Кремля ИИ-лихорадка привлекла к концу десятилетия. В мае 2019 года Владимир Путин заявил, что тот, кто обеспечит монополию в сфере ИИ, «станет властелином мира». Он потребовал обеспечить «технологический суверенитет» в области ИИ. Осенью появился указ, учреждающий Национальную стратегию развития ИИ на период до 2030 года и нацпроект «Искусственный интеллект».
Это не блажь. Даже в ходе войны в конце 2022 года российский президент нашел время, чтобы выступить на конференции Сбера AI Journey. Ежегодно выпускаются поручения правительству — что сделать в области ИИ (2022 год, 2021).
ЧТО ТАКОЕ ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ?
Математики иногда в полушутку говорят, что математика — это все, чем занимаются математики. Аналогично ИИ — это все, что мы называем ИИ.
История мечты об искусственном (или даже — упрощенно — механическом) разуме насчитывает сотни, если не тысячи лет.
Академически тематику ИИ разрабатывают с середины прошлого века. В 1950 году Алан Тьюринг задался вопросом: «Могут ли машины мыслить?» Затем в 1955 году профессор Стэнфорда Джон Маккарти ввел понятие «искусственный интеллект» (artificial intelligence), определив его примерно так: «наука и инженерная разработка разумных машин».
Историки ИИ приводят такое современное определение искусственного интеллекта: «способность системы правильно интерпретировать внешние данные, учиться на этих данных, а также использовать сделанные выводы для достижения конкретных целей и задач с помощью гибкой адаптации». Вот другое определение: «область науки, изучающая синтез и анализ разумно действующих вычислительных агентов». Вот третье. Вот четвертое. Вот еще несколько, для разных случаев.
Сейчас в отношении ИИ нет не только единого определения, но и консенсуса. Техногиганты вроде IBM и Google сводят ИИ к способности решать конкретные задачи (например, распознавать речь).
Некоторые ученые уже на стадии определения говорят, что ИИ — симуляция человеческого мышления. Другие считают, что машина должна быть разумной, но вопрос о том, что такое разум, гораздо старше академических споров про ИИ.
При этом ИИ развивается очень быстро, и человечество постоянно меняет определения. Попытки переосмыслить понятие ИИ на ходу породили даже «эффект ИИ»: критики, увидев очередные достижения компьютеров, заявляют, что это не демонстрация мышления, и вырезают данный класс задач из определения разумности. С некоторыми их утверждениями мы сейчас согласны (вряд ли умение хорошо играть в шашки и шахматы — признак мышления). Но все это не позволяет понять, что такое разум — искусственный или естественный.
Поэтому ИИ как понятие обычно используется в узком смысле. Так называют пласт современных технологий, позволяющих сделать нечто неожиданно «умное». Часто ИИ сужают до одной, самой модной технологии. Например, в 2023 году «использование ИИ» чаще всего подразумевает большие языковые модели (LLM). Это нейросетевая технология, стоящая за нашумевшим чат-ботом ChatGPT и схожими продуктами (здесь можно узнать об основных принципах работы ChatGPT).
Естественно, разработки ИИ совсем не ограничиваются большими языковыми моделями. Более того, весьма вероятно, что через десяток лет будет превалировать другая технология: ИИ уже дважды переживал большие «зимы», когда его разработчики заходили в тупик.
ЗАЧЕМ НУЖЕН ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ?
Искусственный интеллект во многих смыслах — мечта, волшебная палочка, исполняющая желания. Поэтому требуется очень важный уточняющий вопрос: чьи мечты? Обычных пользователей, военных, технокорпораций, политиков? Все они часто хотят от ИИ большего, чем тот способен предложить. Как пишут аналитики Bank of America, в сфере ИИ вот-вот наступит «момент iPhone», то есть появится некий продукт, который перевернет представления о привычных вещах, как в 2007 году первый iPhone перевернул представления о телефоне и интернете.
Потребители — простые жители информационного общества — ждут, что ИИ облегчит им быт и работу. Действительно, когда человечество вошло в информационную эпоху (об этом мы подробно писали в «Сигнале» об айтишниках), никто не ожидал, что умственный труд станет таким же выматывающим и однообразным, как физический.
Современный ИИ облегчает эту ношу: рекомендует сериалы, составляет отчеты, выполняет домашние задания (хотя и плоховато), переводит тексты, занимается психотерапией, создает прикладные иллюстрации, сидит вместо людей в чатах и телефонных службах поддержки.
Но это не те задачи, выполнения которых ждут от ИИ другие.
Военных ИИ привлекает возможностью выбить бюджетные средства под вторую холодную войну (хотя у этого термина есть критики) и перспективные автономные боевые системы. Китай стремится к военно-гражданскому слиянию технологий. Военные США считают революционным потенциал автономных систем и стремятся возглавить эту революцию.
Этот интерес прогрессирует и в России. В 2017 году российские военные чины заявляли о ракетах с искусственным интеллектом. В 2018 году говорили о кибервойнах, ведущихся «высокоточным оружием». В 2020-м — о трансфере разработок ИИ из гражданской сферы в военную. А в 2021 году Минобороны не только заявило о старте производства «боевых роботов с ИИ», но и решило создать управление по ИИ — с собственным бюджетом и функциями заказчика (то есть с возможностью тратить государственные деньги по своему усмотрению).
Для руководителей технокорпораций ИИ — это, во-первых, способ заработать. По оценкам того же Bank of America, в ближайшие семь лет ИИ увеличит мировую экономику на 15,7 триллиона долларов. Во-вторых, это перспективный способ экономии на кадрах. Компании вроде Facebook ежегодно наращивали число сотрудников на десятки процентов — а в 2022-м рынок потрясли масштабные (тысячи человек) увольнения в Meta и в Twitter. Наращивать эффективность, не наращивая штат белковых айтишников, — мечта технокапиталистов.
Политикам ИИ позволяет продемонстрировать свою «современность» (пусть и неуклюже — как, например, в Румынии, где премьер-министр обзавелся «почетным» искусственным помощником). А еще укрепить власть: под предлогом борьбы с преступностью и экстремизмом усилить регулирование, эффективнее отслеживать настроения граждан, а в крайнем изводе — построить идеальное полицейское государство с цифровым концлагерем (разной степени суровости, будь то кибергулаг, очки социального кредита или поддержка надзорного капитализма). Ни то, ни другое, ни третье невозможно без ИИ, непрерывно перемалывающего огромные массивы данных.
Кроме того, ИИ стараются приспособить для повышения качества госуправления (хотя он, вероятно, может давать плохие советы диктаторам из-за искажения информации, приходящей с мест).
Один из самых ранних и интересных примеров — попытки академика Виктора Глушкова (одного из отцов советского ИИ) внедрить в СССР ОГАС (Общегосударственную автоматизированную систему управления народным хозяйством). Речь шла о том, чтобы спасти плановую экономику, которой уже в шестидесятые было практически невозможно управлять «вручную». Но для создания ОГАС требовалось финансирование, превышавшее космический и атомный проекты СССР, вместе взятые. Неудивительно, что проект реализован не был — внедрили только его фрагменты. Те не спасли Советский Союз от распада.
Важно здесь то, что централизованное построение информационного общества становится привлекательным для властей при сильном огосударствлении экономики, когда менеджеры лишены доверия, а элиты прибегают к ручному управлению. Если взглянуть на строительство российской цифровой экономики через призму советской истории ОГАС, становится гораздо понятнее, чего хочет добиться от ИИ Путин.
Наконец, кому-то искусственный интеллект нужен для резкой критики и через это — для большего утверждения архаики. Протоиерей Сергий Рыбаков (кстати, кандидат физ.-мат. наук) обеспокоен тем, что злой дух может вселиться в робота и управлять системой ИИ.
ТАК КОГДА ЖЕ ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ НАКОНЕЦ ИЗМЕНИТ НАШУ ЖИЗНЬ?
Лучше всего перспективы ИИ описывает фраза одного из западных отцов ИИ, Марвина Минского. В 1970 году он заявлял журналу Life, что «в ближайшие 3–8 лет у нас будет машина с общим интеллектом среднего человека». В отдельных задачах ИИ — гораздо позже — превзошел человека, но ничего похожего на цельный, общий интеллект за полвека не появилось.
В результате пришлось обходиться человеческим умом — и поэтому, чтобы понять перспективы искусственного интеллекта, нужно уточнить перспективы естественного. Заменит ли его машина? И если да, то кого именно?
Как уже говорилось, технокорпорациям важно автоматизировать как можно больше процессов. Надо найти способ строительства сложных систем, не раздувая штат. Все мечтают повторить кадровое чудо WhatsApp, который силами 50 разработчиков к 2015 году смог набрать 900 миллионов пользователей. Для сравнения: Facebook, начинавшийся с 150 человек в 2006 году, к декабрю 2022-го содержал свыше 86 тысяч сотрудников, не считая людей с неполной занятостью.
Тут сходятся интересы и других мечтателей об искусственном интеллекте. Военные хотели бы сберечь солдат и не зависеть от человеческого фактора. Для политиков идеален покорный цифровой бюрократический аппарат с функцией принятия рутинных решений и прозрачной отчетностью.
На этом пути немало проблем. И они не в том, что киберсолдат сложен, а прозрачную отчетность не получить, пока исходные данные для нее зависят от людей на местах.
Дело в том, что «волшебная палочка» ИИ очень дорого обходится. И хотя она решает множество задач, пока неясно, действительно ли она способна работать в плюс. Тут стоит отметить — предыдущие «зимы» ИИ случились, в частности, из-за разочарования государственных и военных заказчиков — и, соответственно, прекращения финансирования.
Действительно, пока искусственный интеллект не забирает работу у естественного. Напротив, пока весь опыт новых технологий, начиная с жаккардового ткацкого станка, говорит о том, что взамен устаревших рабочих мест появляется гораздо больше новых. В случае ИИ возникает огромный спрос на высокооплачиваемых специалистов, разбирающихся в новой технологии.
Но еще больше оказывается спрос на низкооплачиваемых сотрудников, которые размечают данные для моделей ИИ. Рынок сбора и разметки данных для машинного обучения к 2030 году будет ежегодно расти на 25% и достигнет объема 12,75 миллиарда долларов. Ради автоматизации работы высокооплачиваемых специалистов развитых стран нужно задействовать десятки и сотни разметчиков из стран «третьего мира».
Уже в 2019 году тысячи женщин в Индии продавали свой естественный интеллект за минимальную плату, обучая ИИ — обычно алгоритмы компьютерного зрения для беспилотных автомобилей и системы дополненной реальности. А в 2022-м кенийцы, получая менее двух долларов в час, просматривали самые жуткие тексты, защищая ChatGPT от токсичности, насилия и прочего недопустимого.
Более того, поддерживать современные системы ИИ очень дорого. Легче всего показать это на том же ChatGPT, у которого в январе 2023 года было свыше ста миллионов пользователей, совершивших 590 миллионов визитов на сайт. По грубым оценкам, для функционирования ChatGPT в самом скором времени понадобится 30 тысяч видеокарт — они стоят по меньшей мере 300 миллионов долларов.
По не менее грубым прикидкам каждое слово, сгенерированное ChatGPT, может стоить около цента. При миллионе пользователей в день речь идет о ста тысячах долларов в день, или трех миллионах в месяц. Сто миллионов «сжигают» деньги разработчиков еще быстрее (хотя и не в сто раз).
Но и это еще не все. Несколько последних лет ученые обращают внимание не только на стоимость работы систем ИИ, но и на их экологичность. Здесь тоже не все гладко: у «волшебной палочки» буквально энергопотребление паровоза — как на этапе первоначального обучения, так и при работе.
Исследователи, замерявшие стоимость обучения моделей ИИ, остановили тренировку самой их крупной модели на 13%, рассчитав, что полное обучение эквивалентно сжиганию железнодорожного вагона с углем. У этой модели было всего шесть миллиардов параметров — у ChatGPT 175 миллиардов.
По консервативным (и приблизительным) оценкам, обучение ChatGPT соответствует месячному энергообеспечению небольшого города, а во время работы месячное энергопотребление превышает показатель обучения в несколько раз.
Чем шире будут распространяться системы, похожие на ChatGPT (их представили Google, Meta, китайская Baidu, южнокорейский Naver и пообещал запустить «Яндекс»), тем понятнее станет, сколько стоит исполнение желаний.
НЕОЖИДАННОЕ ОТКРЫТИЕ, КОТОРОЕ МЫ СДЕЛАЛИ, ПОКА ГОТОВИЛИ ЭТО ПИСЬМО
Мечта о том, чтобы компьютер понимал человеческий язык, часто натыкается на курьезы. Например, по виду слова не всегда можно определить, какая это часть речи. И компьютер принимает слово «батарея» за деепричастие, «генерал» — за глагол прошедшего времени, а еще приводит слова «Алтай» и «Адыгея» к якобы изначальной форме «алтать» и «адыгеть».
Академик Глушков в шестидесятых ставил еще более сложную задачу. Он хотел научить прото-ИИ определять, не только ли грамотно составлено заданное предложение, но и есть ли в нем смысл. Советские программисты вручную создавали модель смыслов, а потом проверяли, не принимает ли компьютер бессмыслицу за что-то важное. Но в одном из экспериментов машина их удивила. Получив на вход фразу «Инженер находится в кухне», она объявила ее бессмысленной. При этом программистам — тем самым инженерам — не удалось найти ошибку в коде.
ПОСТСКРИПТУМ
Польша в 2022 году приняла больше всех беженцев из Украины — около полутора миллионов. Почитайте репортаж спецкора «Медузы» Кристины Сафоновой о том, как живут эти беженцы и как произошедшее изменило саму Польшу.
Мы послали вам «Сигнал» — теперь ваша очередь. Отправьте это письмо своим друзьям и близким. Знание — сила. Будущее — это вы.
Хотите, чтобы мы изучили и объяснили явление или понятие, которое вы сами заметили в новостях? Напишите нам: signal@meduza.io.
|
