В детстве все представляли будущее по-разному. Кто-то думал, что у нас будут летающие машины и кроссовки с автоматической шнуровкой, а кто-то — что миром будут править роботы… Так какой же сценарий сейчас наиболее вероятен? В последние годы активно развиваются нейросети — программы, повторяющие модель человеческих нейронных связей и способные обучаться на основе данных и примеров.
Каким может стать наше будущее с нейросетями? Мы поговорили об этом с Дмитрием Сошниковым, который читал лекцию в кластере «Октава» в рамках «Дней молодой фотографии». Он является технологическим «евангелистом» Microsoft, автором книг, статей и учебных пособий, а также преподавателем и координатором студенческих программ, специалистом по функциональному программированию, нейросетям и искусственному интеллекту.
— Дмитрий, Вы выступали в Туле с лекцией, где рассказывали про нейросети, которые умеют рисовать. А как их научили распознавать образы?
— Все нейросети учатся на большом количестве данных. Им показывают много фотографий, например с собаками, и говорят: «Это собака». Показывают кошку и говорят, что это кошка. В целом нейросеть устроена, как человеческий мозг. У нас есть нейронные клетки, которые принимают некоторые сигналы, умножают на какие-то весовые коэффициенты и передают дальше. Таким образом, каждый нейрон распознаёт какую-то особенность входных данных. Когда нейросеть смотрит фотографии, а мы говорим, что на них собака, происходит подстройка этих весов, и она начинает подобные образы узнавать.
Получается, что нейросети, которые распознают изображения, устроены так: они ищут паттерны во всех кусочках изображения. Сначала они, как человек, ищут простые паттерны. Нам легче смотреть на какое-то пёстрое изображение, где есть края, узоры, и мы сразу можем в нём что-то увидеть. Так же и нейросеть. Сначала замечает острые углы. Потом начинает складывать какие-то кусочки. Если складывается что-то похожее на, например, ухо кошки или собаки, нейросеть решает: «Ага, и здесь, и здесь есть ухо. Раз их два, а рядом ещё два глаза, то это похоже на мордочку». Вот так складывается из кусочков изображение. Нейросеть — это вероятностная история. Она никогда не скажет: «Вот здесь точно кошка!» Она скажет: «Это кошка с вероятностью 83%, собака с вероятностью 15% и с вероятностью 2% это кто-то ещё».
— Когда все активно начали пользоваться нейросетями и генерировать изображения людей, многие столкнулись с проблемой лишних пальцев на картинке или, напротив, их нехваткой. Сейчас удалось решить это?
— Да. На самом деле, проблема с подсчётом достаточно сложная для нейросети. Как и для человека. Он же не может в уме складывать большие цифры, правильно? Нейросети — это вроде бы компьютер, но с «думающей составляющей», которая сделана, как мозг человека.
Поэтому, когда речь идёт о количестве пальцев, ей очень сложно понять, сколько же их на самом деле, хотя она и видит очень много примеров.
С глазами проще — их всегда два. А чем больше число, тем сложнее нейросети сделать вывод, что всегда у людей обязательно только пять пальцев. Возможно, она видит картинки, где действительно пальцев не пять, а четыре, и думает, что так тоже может быть. Чем больше примеров, тем лучше нейросеть обучается.
— Сейчас нейросети — как голосовые помощники лет 10 назад. Тогда они только появились, а сейчас уже довольно прочно вошли в нашу жизнь. Как Вы думаете, какая технология может появиться, когда в нашу жизнь так же прочно войдут нейросети?
— Мне кажется, это уже произошло с появлением диалоговых нейросетей, типа ChatGPT, YandexGPT, GigaChat. Эти сети очень просто могут войти в нашу жизнь. По сути, это такой умный собеседник. Не нужно учиться, чтобы пользоваться. С этой точки зрения они даже проще, чем голосовые ассистенты.
С голосовым ассистентом ты можешь поговорить, но реально — только на определённые темы. А с нейросетями можно говорить, в общем-то, обо всём.
В этом смысле он очень напоминает человека. А что может быть проще, чем беседовать с другим человеком?
Мне кажется, что в последние месяцы стали много говорить про ChatGPT потому, что это действительно технология, которая очень прочно вошла в нашу жизнь. Я достаточно часто выступаю перед школьниками и всегда спрашиваю, пользуются ли они такими диалоговыми сетями. Большинство говорят да. Взрослые обычно отвечают, что слышали, но активно не используют. Я как-то выступал в «Экспериментаниуме» (в Москве). Была лекция для детей, но пришли и родители, которые их привели. Вот они говорили: «Нет, мы не пользовались». А дети: «Ну да, мы в школе с их помощью сочинения пишем».
— Как Вы думаете, нужно ли ввести какие-то международные законы, регулирующие использование искусственного интеллекта?
— Безусловно, нужно. Вообще, всё это объединяется в теме «Этика искусственного интеллекта». Искусственный интеллект — это технология, которую легко использовать неправильно. Например, если мы обучили нейросеть ставить диагнозы больным, возникает соблазн сделать так, чтобы она сама ставила диагноз всегда.
Вы приходите в больницу, у вас берут анализы, а дальше нейросеть говорит, например, отрезать ногу.
Но она, как и с определением кошек и собак на картинках, может ошибаться. Она может сказать: «С вероятностью 80% отрезать ногу, а с вероятностью 20% — нет». Или: «51% отрезать, а 49% — нет». И как тогда принять решение? В таких случаях человек сам определяет, когда ему говорят обо всех плюсах и минусах.
Нейросеть не может объяснить своё решение. Поскольку там очень много кусочков, которые участвуют в принятии решения. Понять, как именно она их принимает, бывает достаточно сложно. В таких областях, когда речь идёт про постановку диагноза, который может угрожать жизни человека, или, например, про продажу каких-то финансовых активов в больших объёмах, всегда должен быть человек. Именно он возьмёт на себя ответственность за это.
Нейросеть не обвинишь в том, что она испортила здоровье, на неё нельзя подать в суд.
А еще должен быть тот, кто проконтролирует это решение. Человек может принимать решения, учитывая ещё какие-то факторы, — интуицию, например, или свои какие-то особенности, предпочтения. Это один из аспектов этики искусственного интеллекта.
Второй аспект связан с тем, что мы обучаем нейросеть на базе данных. А если это не очень хорошие данные, результат тоже будет не очень хороший. Например, если мы будем пытаться распознавать вора в магазине по данным видеокамер, то, скорее всего, в обучающих данных будут неприятные мужчины в толстовке с капюшоном. Нейросеть будет видеть, что такие люди совершают кражи в магазинах, и научится определять вора только по внешнему виду. А нам нужно научить нейросеть распознавать действие! Что кто-то взял что-то с полки и не заплатил за товар. А для этого требуются сбалансированные данные. Если разработчики это упустят, то мы получим систему, которая будет подозревать всех, кто одет в толстовки с капюшонами.
Недавно было предложение от компании, которая занимается ИИ: треть бюджета по разработке выделять на проработку этических вопросов использования ИИ.
— Раньше было мнение, что ИИ может заменить людей технических профессий, а творческих — нет. Но сейчас у нас есть те же ChatGPT или Midjourney, которые могут что-то написать или нарисовать. Как Вы думаете, могут ли они вытеснить писателей и художников?
— Могут. Недавно на эту тему проводилось два интересных исследования. В ходе одного из них сравнивали ИИ с человеком в плане конвергентного мышления. По одной из теорий, творчество — это сочетание конвергентного мышления, когда генерируются какие-то новые сумасшедшие идеи, и дивергентного, когда мы из них отсеиваем то, что может быть полезно.
Есть тест на дивергентное мышление — взять какой-то бытовой предмет, например карандаш, и сказать: «Придумай 10 необычных способов его использовать». Такой тест, ограниченный по времени до 30 секунд, дали человеку и ChatGPT. ИИ с большим отрывом выигрывал у среднестатистического человека. Некоторые люди делали лучше и быстрее, но их было очень мало.
Для второго теста взяли студентов, которые массово сдавали творческий тест, и сравнили с тем же ChatGPT. Результаты тестов дали комиссии, не сказав, что это ИИ.
И оказалось, что нейросети сейчас с точки зрения творчества лучше, чем большинство людей.
Поэтому, с одной стороны, представителям творческих профессий есть чего опасаться. А с другой — есть куда расти. Например, когда появилась фотография, художники тоже отнеслись к этому с недоверием: мол, «что это такое, вы нажали кнопку — и всё, а мы рисуем пейзаж и страдаем». В результате мы видим, что классическая живопись стала не так интересна, но расцвели новые формы — импрессионизм, например. Всё это появилось именно потому, что фотография «скушала» кусок рынка у художников. Поэтому точно так же сейчас ИИ «кушает» большой кусок рынка у человека. И этому человеку нужно думать, в чем он может быть лучше.
Есть ещё хороший пример. Когда ИИ победил человека в шахматы, люди не перестали играть.
Казалось бы, зачем? Вот же штука, которая тебя побеждает. Нет, люди продолжили и стали играть существенно лучше, потому что в процессе обучения соревновались с искусственным интеллектом. Тем самым качество того, что делают люди, сильно повысилось. Думаю, что когда человек будет работать с искусственным интеллектом, он сможет сделать намного больше и лучше. Причём «намного больше» — это на порядок или даже на несколько порядков.
Представьте себе человека 30-40 лет назад, когда не было интернета и смартфонов. Насколько он был продуктивен? Например, если есть задача купить холодильник — как эту задачу решали бы раньше? Нужно было поехать в магазин, долго общаться с консультантом, поехать в сберкассу снять деньги, приехать с ними в магазин, отдать… А сейчас если я надумаю в Туле купить холодильник, залезу в интернет, посмотрю, какие модели мне нужны, где ближайший магазин, приду туда, расплачусь картой и скажу, куда доставить. Отчасти это потому, что инфраструктура лучше. Но в основном потому, что я подключён к коллективному разуму человечества, к интернету! Я постоянно могу этим пользоваться. Это повысило продуктивность человека раз, наверное, в 10. Причём в любой области.
Представьте любую организацию, где нужно было ходить по кабинетам и подписывать бумажки. Электронная подпись делает это всё на раз-два. Поэтому такой же скачок будет и с искусственным интеллектом. К этому нужно быть готовым.
— Как Вы думаете, останутся ли в будущем профессии, куда не проникнет искусственный интеллект?
— Не думаю, что стоит к этому стремиться. Есть разные обзоры, какие профессии под угрозой. Я был немного удивлён, когда несколько лет назад увидел их. Все думали, что программисты в безопасности, потому что они разрабатывают эти технологии и без них никак. А оказалось наоборот.
В самой большой безопасности медсёстры. Именно они, не врачи. Медсёстры, воспитатели детских садов и прочие. Человеческое тепло и эмпатию искусственный интеллект пока что дать не может. Не хочу говорить «не сможет никогда», потому что на самом деле тут такой философский вопрос: воспитательница в детском саду даёт тебе настоящую эмпатию или она притворяется?
Но в идеальном мире, где она действительно переживает за ребёнка и его развитие, конечно, человеческое участие пока незаменимо. Искусственный интеллект пока что не испытывает эмоций. Там нечему их испытывать, там просто числа перемножаются. Поэтому какого-то тепла, эмоционального отклика в глазах не возникнет. ИИ, конечно, может это сымитировать, если его обучить на соответствующем количестве материалов. Но насколько это будет успешно, пока не понятно. Сейчас кажется, что лучше общаться с человеком, — по крайней мере, в таких областях, как медицинский уход. Там хочется человеческого тепла.
Большая проблема современности: соцсети навязывают какую-то точку зрения на мир. С этим мало кто борется, но проблема серьёзная. У любой соцсети основная цель — продержать человека как можно дольше за экраном, чтобы он посмотрел больше рекламы. А для этого им нужно подсовывать тот материал, который пользователь будет с радостью смотреть. Если человек — убеждённый сторонник НЛО, ему будут подсовывать видео, которые подтверждают, что очередное НЛО нашли в Туле позавчера. Ничего другого ему нейросеть просто не покажет. ИИ автоматически сделает выбор за нас. Поэтому человек может жить в иллюзиях. Это проблема информационного пузыря. Она уже существует.
— Как Вы считаете, возможно ли в теории восстание машин?
— Я бы не очень опасался восстания машин как такового. У ИИ нет эмоций, нет ненависти к людям и желания их уничтожить. Но, с другой стороны, любая технология делает нас более уязвимыми. Например, мы уже привыкли, что вода и электричество подаются нам прямо в квартиры. Но если не будет зимой отопления и электричества, то мы, скорее всего, просто вымрем достаточно быстро. Мы, вверяя ответственные процессы ИИ, подвергаем себя риску. В программе может случиться ошибка, которая может иметь очень серьёзные последствия, сравнимые с восстанием машин. Рисков много, их нужно просчитывать.
И да, должна быть кнопка, которой можно выключить весь ИИ.
— А может быть такое, что ИИ посчитает, что он делает что-то во благо, а на самом деле будет наоборот?
— Да, безусловно. ИИ — он же не делает что-то во благо, он делает так, как его научили. У ChatGPT, например, задача написать такой текст, который будет неотличим от текста человека. Поэтому у него нет цели выдать вам правильную информацию. Откуда он узнает, правильная ли она? Текст должен быть написан грамотно, падежи согласованы и так далее. Вот это ИИ хорошо делает. Многие люди говорят: «Ой, диалоговая нейросеть ответила мне неправильно». Ну да. Её и не просили отвечать правильно. Её просили отвечать правдоподобно.
В интернете сейчас много текстов, по которым видно, что их писал ИИ. Наличие такого инструмента, к сожалению, открывает доступ к производству очень дешёвого контента. Я могу сам ничего не писать, а взять что-то уже существующее, попросить нейросеть перефразировать и запостить от моего имени. И поставить систему, которая будет автоматически заниматься блогом и вещать туда рекламу. Такие не очень экологичные практики возможны.
Вообще, я бы посоветовал всем, кто сейчас использование ИИ смотрит со стороны и не пробовал — пойти и попробовать. Чем бы вы ни занимались — попробуйте понять, как нейросети могут быть полезны в вашей работе. Разберитесь, начните взаимодействовать. И можно это делать вместе с детьми или даже внуками.
