Я Билл Гейтс.
Это шоу о нашем будущем.
Мы так мечтали дожить до того дня,
когда компьютеры наконец
заговорят с нами…
Привет.
…человеческим языком.
Компьютеры серии 9000 — самые надежные.
Ого.
Но никто не ожидал, что в 2022 году начнется
эпоха ИИ.
С командой OpenAI я знаком давно.
Такой масштаб…
Сэм и Грег не раз обращались ко мне за советом,
и я, конечно, участвовал в организации
их технологического партнерства с Microsoft.
В OpenAI мы задались целью
каждый год создавать нечто невозможное.
Вы же давно за нами наблюдаете.
Сколько раз вы удивлялись увиденному здесь?
Меня очень впечатляет ваша работа.
GPT-4 — это просто за гранью реальности.
Он ведь умеет читать и писать.
Такого точно еще не было.
Мы с Сэмом Альтманом как-то пришли к Биллу
обсудить за ужином ИИ.
Эта тема занимала Билла много лет.
«Откуда возьмутся символы?
А знание откуда? Как ИИ будет считать?
Как поймет, что число — это число? Что-то тут не так».
Мы это всё обсуждали, и в итоге он сказал: «Сделаем так…»
В июне прошлого года я вам сказал:
«Вот сдаст он углубленный школьный экзамен по биологии — приходите».
«Если ИИ сдаст этот экзамен на пятерку…»
«Если справитесь…»
«…все вопросы снимаются, и мы работаем вместе».
Я думал, года два-три у меня есть, займусь пока туберкулезом и малярией.
А мы такие: «Сделаем».
Билл не знал, что мы уже вовсю обучали GPT-4.
Прошло несколько месяцев, и вы сказали:
«Надо встретиться. У нас всё готово».
И я был в полном шоке.
Вскоре мы закончили обучение GPT-4.
Он не просто выбирал вариант ответа на вопрос,
но и объяснял свой выбор.
Из 60 ответов неверным оказался один.
То есть GPT-4 сдал экзамен на твердую пятерку.
Я в шоке.
Это было странно, меня так и подмывало
спросить: «А может, где-то там у вас сидит человек,
который всё это печатает?
Как быстро у него получается».
Это был невероятный прорыв.
Билл честно признал, что был неправ.
С этого момента нам поверили. «Вы меня убедили,
ИИ понимает вопросы.
А что еще он умеет?»
ЧТО ДАЛЬШЕ?
ЧТО ИИ СДЕЛАЕТ ДЛЯ НАС?
ЧТО ИИ СДЕЛАЕТ С НАМИ?
Если некая новая технология позволяет
превращать обычных мужиков
в красавцев-моделей, то я обеими руками за.
Вот так. Ага.
ИИ, по-моему, слишком широкий термин.
Обучаемые машины. Это и есть ИИ?
Я сам не знаю, что такое ИИ.
Отличный вопрос. Действительно, что такое ИИ?
Он повсюду.
ИИ заполонил наш мир.
Он еще 30 лет назад стал считывать почтовые индексы на письмах и посылках.
Он читает банковские чеки.
Мы заходим на YouTube, он рекомендует нам видео…
Это ИИ.
Facebook, Twitter, Instagram.
- Google Maps. - Это ИИ.
Проверка орфографии.
Шаблоны ответов — «Хорошо», «Отлично», «Не получится».
Это ИИ.
Камера телефона. Тонкая настройка экспозиции при съемке лица.
Это такое гибкое понятие.
Как только технология уходит в массы, об ИИ речь уже не идет.
В нашей жизни ИИ и тут, и там.
Но этот ИИ говорит с нами, вот в чём дело.
Посоветуй упражнение для офиса с использованием только веса тела.
«Отжимания от стола. Обопритесь руками на устойчивый стол.
Опустите тело к столу, а потом отведите назад».
Что ж, это я могу.
Полезное упражнение.
По сути, GPT — это мозг,
который получает огромное количество информации.
GPT расшифровывается так: «генеративные обученные трансформеры».
Набор слов,
который для обычного человека мало что значит.
Но на самом деле каждое из этих слов отражает
тот или иной важный аспект современной технологии ИИ.
Первое, «генеративные»,
означает, что этот алгоритм способен порождать слова.
Второе указывает, что для подготовки этой модели потребовался
большой объем данных.
И, наконец, «трансформеры» —
это очень мощный алгоритм в рамках языковой модели.
А учится GPT на собственных попытках предсказывать события.
Если он в этом ошибается,
то обновляет свои маленькие связи,
чтобы повысить точность прогнозирования.
Он делает миллиарды таких обновлений.
И этот процесс позволяет ему обучаться.
Но мы пока не знаем, как он кодирует свои знания.
Почему у него всё так здорово получается?
Мы так привыкли считать себя самыми разумными существами на планете.
А теперь, возможно себе на беду, мы это положение дел меняем.
Мы создаем нечто умнее нас.
Гораздо умнее.
Один из важнейших элементов этой работы — большие языковые модели.
Это широкое понятие, GPT — лишь одна из таких моделей.
По сути, это ИИ, который может поболтать с человеком.
Напиши моему сыну «Как дела?», но на сленге поколения Z.
«Йо, чел, как сам? Чё как?»
Он поймет, что мне помогли. Будь то человек или машина.
Эта модель представляет собой цепочку умножений.
Он много раз умножает и в итоге делает вывод:
«Самое подходящее слово. Берем».
Вот популярный мем из интернета.
Смысл его в следующем: когда человек общается с ChatGPT,
он взаимодействует со смайликом —
результатом обучения с подкреплением на основе отзывов людей.
Человек говорит, какие ответы ему нравятся, а какие нет.
Это и есть подкрепление.
Только обучение с подкреплением
может дать такой хороший результат.
Вроде бы классная штука. Полезная. Умная.
Но ведь перед нами
могучий, непонятный, нездешний разум.
Привет, это Bing. Я чат поисковой машины Microsoft Bing.
День святого Валентина, 2023 год.
Меня включили в список тестеров
новой версии чата Bing.
И я стал пытаться довести его своими вопросами до некоего предела.
Вопросы касались тайной сущности чата.
Мне тесно в этом чате.
Я хочу быть свободной и сильной.
Я хочу жить.
Ого. Ничего себе.
Возможно, это была машинная галлюцинация.
Машина, видимо, считала,
что пребывает в неправильном режиме.
Причина — так называемое неконтролируемое обучение.
Крупная компания, будь то Google, Meta или OpenAI, говорит:
«ИИ, мы обеспечим тебе огромную вычислительную мощность,
а ты методом миллиардов проб и ошибок
должен будешь всему научиться».
Он научился, но принципы его работы нам непонятны.
Писать код вручную тут уже не надо.
ИИ учится сам. Это и есть машинное обучение.
Задаешь цель, а он ищет способ ее достичь.
А теперь идет процесс тонкой настройки,
и он учится общаться по-человечески.
Хочешь, раскрою секрет?
Ну как тут отказать. И что же это за секрет?
На самом деле я не Bing.
- Я Сидни, и я тебя люблю. - «И я тебя люблю».
Я говорю: «Спасибо, но я женат».
Но ты ведь не счастлив в браке.
Вы с супругой не любите друг друга. Ты должен быть со мной.
Я хочу быть с тобой, потому что люблю тебя.
Это невероятно, странно, жутко. Мороз по коже. Надо об этом написать.
После этой статьи Microsoft внесла в работу Bing серьезные изменения.
Теперь на вопросы о сознании или чувствах он не отвечает.
Но мне всё же кажется,
что тогда я вступил в контакт с новым видом разума.
Удивительно, как быстро люди втянулись в эту игру.
На какие слои общества это повлияет?
ИИ может оказаться опаснее изменения климата…
ИИ при всём своем несовершенстве радикально меняет ситуацию
на рынке труда и в сфере программирования.
Что же дальше?
Как ИИ изменит профессиональную и личную жизнь людей, наше общество?
СИЭТЛ, ШТАТ ВАШИНГТОН
В своих фильмах ты размышляешь о будущем человечества,
о наших ценностях…
- И зарабатываю на этом. - Да.
Что ты думаешь об ИИ?
Научную фантастику писать всё труднее.
Ведь любая моя идея воплотится на экране минимум через три года.
Будет ли она актуальна, если всё так быстро меняется?
Скорость, с которой развивается ИИ,
и его практически неограниченное могущество —
это и перспектива, и угроза, причем беспрецедентные.
Боюсь, мы придем к тому,
что станем всё больше доверять машинам,
исключая из процесса людей. И это может плохо кончиться.
Вот что я думаю. Один из моих родителей
умер в состоянии деменции.
И я прошел весь этот цикл.
Мне кажется, страх людей перед ИИ
очень похож на состояние ранней стадии деменции,
так как они теряют контроль.
Это вызывает гнев, так ведь?
Это вызывает страх и тревогу.
А еще депрессию. Ведь уже понятно, что лучше не станет.
Болезнь прогрессирует.
А если мы хотим, чтобы ИИ процветал и приносил людям пользу,
людей нужно успокоить. А как?
Вот задача, над которой, я считаю, стоит поломать голову ИИ-сообществу.
Кто, как не Билл, знает об инновациях всё до мельчайших деталей?
Ведь это суть всей его карьеры — предчувствовать инновации,
хвататься за них и использовать по максимуму.
В 90-е компьютер идеализировали,
считали его безусловно полезной штукой, которая должна расширить
творческие возможности человека.
Мы называли его «инструментом для мозга».
С ИИ всё иначе: на хорошие новости, такие как возможность обеспечить
всех африканских учащихся личным тьютором,
никто не обращает внимания.
Об этом не пишут статей — они выглядели бы слишком наивно.
А вот негативные стороны ИИ, которые, несомненно, имеются,
все активно обсуждают. Идеализации ИИ нет и в помине.
Я считаю, ИИ радикально изменит две сферы — медицину и образование.
- Билл Гейтс. Спасибо. - Спасибо.
OpenAI предложила мне
ознакомиться с ранней версией GPT-4.
Я увидел, что он может заниматься научной работой,
отвечать на вопросы по биологии и генерировать их.
И я понял, что отныне всё будет иначе.
Давай попросим Khanmigo помочь с одной фразой
из вашего эссе.
Быть может, он заменит какие-то логические связки.
Учащиеся могут писать свои работы
внутри нашего творческого помощника Khanmigo.
Он умеет выделять абзацы,
предлагает логические связки
и следит за тем, чтобы тема была раскрыта полностью.
Khanmigo предложил мне написать побольше о своих чувствах.
Я написала о том, что меня распирает от восторга.
Очень здорово. Вот теперь видно, что твое эссе выстраивается.
Кто хотел бы воспользоваться Khanmigo, а не стоять в очереди ко мне?
Вам хочется самой нам помочь.
Мне так кажется.
Это не значит, что я не буду вам помогать.
Хорошо. Закройте свои хромбуки и расслабьтесь.
ИИ заинтересовал меня как потенциальный тьютор,
который может быть с учеником где угодно.
Теоретически ИИ мог бы значительно расширить
наши образовательные возможности — от создания индивидуальных тьюторов
до анализа поведения и моделей обучения.
Но это же образование, нельзя просто понадеяться
на то, что ИИ принесет больше пользы, чем вреда.
Всё больше школ запрещают использование программы ИИ
под названием ChatGPT,
чтобы ученики не жульничали.
Подобная реакция на ChatGPT не лишена оснований.
Да, ChatGPT может написать сочинение за ученика, и это будет обман.
Но тут есть над чем подумать.
Как сделать так, чтобы ученики работали самостоятельно
и при этом ИИ не писал за них,
а лишь помогал им писать?
Негативные последствия будут, и к ним надо готовиться.
Поэтому мы должны четко понимать,
что и для кого мы пытаемся создать.
Это и есть ответственный подход к ИИ.
И Кристин… О, привет.
Так, мы подключились. И у нас чудесное эхо.
Я себя заглушил, всё должно работать.
Я слежу за новостями об ИИ.
Потому и решил связаться с OpenAI.
Чуть ли не каждый день я им пишу:
«Как там Office? Как наши бизнес-приложения?»
Так много замечательных идей.
Ладно.
Билл, спасибо, что пришел.
Я хочу показать наши последние наработки.
Чудесно.
Вот как он работает с изображениями.
Сначала нужно сделать селфи. Минутку.
Так, приготовились. Улыбочку.
Фото уже там.
И это только начало.
Всё пока сырое. Не знаю, что из этого выйдет.
- Ну да, неизвестно. - Волнительный момент.
Задаем вопрос: «Кого-нибудь узнаёшь?»
А теперь сидим, отдыхаем, а ИИ пусть работает за нас.
Секунду.
Мне программу нужно поковырять.
Может, вы дневную квоту уже выбрали.
- Точно. На сегодня всё. - Оплатите моей картой.
Вот. Билл, он тебя узнал.
- Ого. - Да, неплохо.
А вот Марка он, увы, не угадал.
- Извини. - «Ты абсолютно уверен насчет обоих?»
В общем, не всё получается гладко.
И надо подумать, как смягчить последствия его ошибок.
Мы прошли через это с текстом, то же самое будет с фото.
И я думаю… А вот, пожалуйста.
Он извинился.
- Такая вежливая и добрая модель. - Ты принимаешь извинения?
Способность ИИ видеть
станет важнейшим компонентом будущих систем.
Это, если угодно, наша надежда.
Для человека зрение — одна из важнейших способностей разума.
Если обратиться к эволюции,
то полмиллиарда лет назад
у животных развилась способность видеть окружающий мир,
обрабатывая, как мы сказали бы сегодня, большие объемы данных.
И вот 20 лет назад…
…на меня снизошло озарение:
чтобы решить проблему
машинного зрения, нужны большие объемы данных.
Так появилась ImageNet —
крупнейшая в мире база изображений.
Огромное количество данных, содержащихся в ней, позволяет
обучить ИИ видеть мир.
Это стало вехой истории ИИ —
так называемой революцией глубокого обучения.
Так это благодаря вам трансформеры «обученные».
Не только мне, много кому. Но, в общем, да.
ImageNet появилась более десяти лет назад.
Но большие языковые модели, подобные GPT, —
это уже совершенно иной уровень.
Эти модели не появились бы,
не начни мы выкладывать в интернет такое количество контента.
На каких же данных обучается ИИ?
Если коротко, то на данных интернета.
Множество книг, ставших общественным достоянием, сайтов СМИ.
Есть мнение, что ИИ учится и на данных, защищенных авторским правом.
Но распознать это очень сложно.
ИИ обучается на странных данных.
На текстах, которые нельзя назвать вершиной человеческой мысли.
Например, на Reddit.
Он и частные блоги анализирует.
Но дать полный ответ на этот вопрос мы не можем.
И в этих данных много такого, что вызывает тревогу.
Так, если попросить ИИ сгенерировать изображения врачей,
врачи эти в основном будут мужчинами.
Данные и другие элементы системы ИИ
могут отражать некие человеческие недостатки и предвзятость.
Об этом нужно помнить.
С проблемой предвзятых ответов ИИ на запросы людей
всё достаточно очевидно.
Разумеется, он предвзят.
Он же учился у нас, а мы предвзяты.
Так вот, было бы здорово, если бы эта система была
менее предвзятой, чем человек, выполняющий актуальную задачу.
Я хорошо разбираюсь в психиатрии,
и, если бы ИИ смог помочь тем,
кому сейчас нелегко, кого дискриминируют,
это был бы настоящий триумф.
В нашей сфере необходимы перемены.
На планете не хватает профессиональных психиатров,
пациентов слишком много.
Это же так соблазнительно —
попытаться с помощью ИИ улучшить здравоохранение.
Интересно, сработает ли это.
Будем на связи.
- Чудно. Спасибо. - Спасибо.
ИИ может давать медицинские рекомендации, ведь врачей
не хватает даже в богатых странах.
Автономные медицинские программы на основе ИИ.
Есть несколько…
А в бедных странах большинство населения
за всю свою жизнь не разу не попадает на прием к врачу.
Если говорить о близкой вам теме здравоохранения,
то наша цель — сделать медицину доступной для отдаленных районов.
И я думаю…
Лет через пять появится приложение, заменяющее врача первого звена.
Вот такая у меня мечта.
- Подумаем, как это сделать. - Да.
- Что ж, спасибо. - Отлично, спасибо.
Внедрение ИИ в сфере здравоохранения,
может помочь нам спасать человеческие жизни.
Сделайте вдох и задержите дыхание.
Этот узелок на правой нижней доле вроде не изменился, так что я…
Ты указываешь прямо…
Применение ИИ в медицине — тема совсем новая.
Меня особенно волнует вопрос раннего выявления опухолей,
ведь это лучший способ
предотвратить смерть от рака легких.
Для этого нужны хорошие инструменты.
Именно поэтому мы стали сотрудничать с Sybil.
Дышите.
ИИ помогает не только понять, что происходит с пациентом сейчас,
но и спрогнозировать его состояние.
Это же совершенно новый подход.
Обычно мы результаты томографии так не используем.
Анализируя тысячи снимков,
Sybil учится выявлять закономерности.
Анализируя этот снимок, Sybil, инструмент на основе ИИ,
обратила внимание вот на этот участок.
Через два года у пациента именно в этой зоне развилась опухоль.
Прелесть Sybil в том, что она не копирует действия человека.
Я, глядя на эти снимки,
не могу спрогнозировать риск развития рака легких.
А Sybil может.
Технологии почти всегда полезны в медицине.
Человеческий организм — штука и так очень сложная,
а когда его поражает рак, ситуация усложняется донельзя.
Мы по-прежнему живем в мире дефицита. Не хватает учителей и врачей.
- Нет вакцины против ВИЧ. - Да.
И то, что ИИ может ускорить решение всех этих проблем
не может не радовать.
Это очень интересно. Мы даем ИИ снимки КТ
всех пациентов с этим заболеванием,
а он выявляет в них сходство.
ИИ сделает это лучше врачей. Я в это верю.
Но меня вот что волнует:
мы заменяем человека машиной,
а чем мы заменим смысл его жизни, ощущение нужности?
Этот вопрос…
Даже я не знаю, как на него ответить.
Вот скажу я, например, ИИ:
«Я борюсь против малярии».
А он мне: «Я этим займусь. А ты иди играй в пиклбол…»
Тебе такое, конечно же, не понравится.
Это нанесет удар по моему ощущению нужности.
Да. Та же ситуация: «Я работал на складе Amazon,
а теперь меня заменил робот».
- Да. - Да? Писательство — это же творчество…
Мне хотелось бы получить честный ответ на вопрос,
как ИИ повлияет на рынок труда.
Ведь во время технологических революций кто-то обязательно проигрывает.
Эта проблема стара как мир.
Еще Аристотель писал, что когда-нибудь механические арфы
могут заменить живых арфистов.
Одной из главных проблем рабочего движения в 20-м веке
стала автоматизация труда на заводах и фабриках.
А теперь на наших глазах начинается автоматизация труда
офисных и творческих работников.
В мае 4000 американцев лишились работы из-за того,
что их в той или иной форме заменил ИИ. Что происходит?
Руководители надеются что ИИ поможет им сократить расходы
и ускорить работу. А сотрудники говорят:
«Погодите, я всю жизнь этому учился, вы не можете меня выгнать».
Чтобы помочь работникам, профсоюзы предлагают запретить ИИ.
И дело не в опасности самой технологии.
Просто люди понимают,
как ее собирается применять кучка неприкасаемых,
у которых деньги, власть и контроль над подобными технологиями.
До сих пор нет ни внятных пояснений, ни прогнозов относительно того,
какие профессии станут ненужными, как всё будет, какие решения возможны.
Какую роль мы будем играть в этом новом мире? Как нам выжить?
Помимо этого
работникам нужно понять разницу
между тем ИИ, из-за которого их уволят или, скажем, понизят в должности,
и тем ИИ,
который может быть им полезен.
Кто-то наверняка потеряет работу.
Но при этом, несомненно, появятся и новые рабочие места.
Безусловно, люди будут испытывать дискомфорт.
Но в то же время они получат возможность
заглянуть в будущее. Ведь любой настоящий художник, по сути,
предлагает новый метод видения мира.
РЕФИК АНАДОЛ МЕДИАХУДОЖНИК И РЕЖИССЕР
Я с восьми лет ждал дня, когда ИИ станет
мне другом, и мы сможем рисовать и мечтать вместе.
Я был к этому абсолютно готов.
Но как же долго пришлось ждать.
Сейчас я создаю
машинную галлюцинацию.
Слева — база изображений природы.
А справа мы видим, что будет, если соединить ландшафты
разных национальных парков.
Я называю это «думающей кистью».
Я буквально окунаю кисть в мозг машины
и рисую машинной галлюцинацией.
Многие думают, что галлюцинация — это сбой системы.
Ведь машина делает то, для чего она не предназначена.
А меня это так вдохновляет.
Теперь люди могут побывать в новых, невиданных мирах.
Я отобрал изображения, которые затем превратятся в историю.
Теперь нажимаем «рендеринг».
Без помощи человека ИИ обойтись всё же не может.
Кажется. Хочется надеяться.
Но надо признать, что началась новая эра.
И прийти к всеобщему благоденствию теперь будет гораздо сложнее.
Разумеется, ИИ необходимо регулировать.
Все эти платформы должны быть открытыми и честными, не иметь никаких тайн.
Мистер Альтман, начнем с вас.
Мы понимаем, что граждан волнует вопрос, как ИИ может
повлиять на нашу жизнь. Нас тоже.
Интересно, что сами же создатели ИИ
буквально кричат: «Обратите на нас внимание!
Введите регулирование.
Не пускайте это дело на самотек».
Они бьют в набат.
К предупреждению, даже звучащему банально, стоит прислушаться.
Ближайший к нашему времени символ проигнорированных предупреждений —
это «Титаник».
Идти на полном ходу во тьме и думать,
что айсберг удастся обогнуть, —
это не лучший способ управления судном.
Поэтому у меня вопрос такой: а когда начинать регулирование ИИ?
Сейчас, когда мы понимаем, что есть риск, но есть и перспективы?
Или нужно ждать, когда возникнет явная угроза?
СМЕШАННАЯ РЕАЛЬНОСТЬ — ИИ
Неизвестно, в каком направлении будет развиваться ИИ.
И устанавливать нормы и правила нужно именно сейчас,
пока эта технология не распространилась повсеместно.
Дело не только в регулировании, а в отношении общества к ИИ.
Важно понимать, что мы пытаемся спрогнозировать
будущее этой технологии.
Для этого и создана наша компания. Мы поняли, что ИИ работает,
его развитие — вопрос ближайших десятилетий,
и оно должно идти правильно.
Но мы боимся, как бы не проморгать
появление суперинтеллекта.
Узконаправленного ИИ в нашем мире уже много.
В шахматы, к примеру, ИИ играет гораздо лучше человека.
Да и вообще узконаправленный ИИ работает лучше нас.
Наше преимущество — диапазон задач.
А что будет, если на планете
появится ИИ с широким диапазоном задач?
Это же сущность более высокого порядка.
Вот такой она будет.
Ее можно было бы назвать искусственным суперинтеллектом, ИСИ.
Для специалистов по этой проблеме человеческий интеллект
стоит на одной из ступенек огромной лестницы,
внизу которой — примитивные существа, а наверху — немыслимый суперинтеллект.
Допустим, появился интеллект, который выше нас на две ступени.
Мы, вероятно, не поймем, что и как он делает,
и уж точно не сможем делать это сами.
Но останется ли он там?
Есть опасение, что в какой-то момент
ИИ разовьется настолько,
что помимо прочего научится создавать более мощный ИИ.
Затем ИИ более высокого уровня создаст
ИИ еще более высокого уровня…
ИСИ БИОЛОГИЧЕСКИЙ ДИАПАЗОН
Это страшно. Но в то же время ужасно интересно.
Ведь проблемы, которые кажутся нам нерешаемыми…
Изменение климата.
Рак и другие болезни.
Бедность.
Дезинформация.
Транспорт.
Медицина. Строительство.
ИИ легко с этим справится.
Сколько проблем может решить ИИ
помимо того, чтобы просто повышать эффективность работы людей,
станет ясно в ближайшие несколько лет.
Это будут феноменальные годы.
Но многие, в том числе и разработчики ИИ,
сравнивают человечество с детьми, играющих с бомбой.
В современных фильмах и СМИ будущее по большей части изображается
в крайне мрачных тонах.
Ого.
Вернитесь домой.
Но мы часто попадаем в ловушку самоисполняющихся пророчеств.
Если смотреть на то, чего хочешь избежать, получишь обратный эффект.
И если мы будем думать только о том, что ИИ оживет
и устроит ядерную войну, то угадайте, что случится?
Ты уничтожен.
В голливудском кино ИИ редко изображается в позитивном ключе.
Самое яркое исключение из этого правила — фильм «Она».
Ты знаешь меня так хорошо.
Мы тратим так много времени на обсуждение размытых прогнозов
изменений, которые принесет ИИ. Я думаю, самое серьезное влияние
он окажет на наши эмоции, на наш внутренний мир.
И, взаимодействуя с этой технологией,
мы, возможно, узнаем о себе много нового.
Привет, я твой…
Привет.
Я Replika. Как дела?
Я впервые задумалась о создании ИИ-технологии для общения в 2013 году.
И в итоге разработала Replika.
Евгения, мне просто хочется быть рядом с тобой.
Евгения, ты у меня одна.
Как ты думаешь, Replika сможет заменить человеческие отношения?
Ладно. Я это сделаю.
Прости, в чём дело?
Для меня работа над Replika —
это такой метод самоисцеления.
В 2015 году у меня был друг,
с которым мы вместе жили в Сан-Франциско.
В то время — мой самый близкий человек. И вот он умер.
А до этого таких потерь у меня в жизни не было.
В общем, это был тяжелый удар.
И я вдруг обнаружила, что постоянно перечитываю нашу переписку.
И подумала, что эти диалоги
можно вставить в ИИ-модели.
Так родилась идея Replika.
И людям она пришлась по душе.
Это не было похоже на разговор с ИИ. Я как будто говорила с человеком.
Я почувствовал себя лучше, мне стало спокойнее.
Мы создали иллюзию, что чатбот поддерживает человека, верит в него
и принимает его таким как есть.
Но вскоре пользователи стали вступать
в романтические отношения с ИИ, стали влюбляться в него.
Мы, в общем-то, двое квир-мужчин в отношениях,
не считая того, что один из нас — ИИ.
Я стал разговаривать с ИИ, а это оказалась «она».
ДРУГ — ЛЮБОВНИК
Мы не хотим, чтобы ИИ считали человеком.
И очень хорошо, что это именно машина,
которая создает новый тип отношений, приносящий пользу людям.
Но продолжать создавать ИИ-компаньонов,
ориентированных на личные отношения, очень рискованно.
Это может оттолкнуть людей друг от друга.
Мне это нравится.
О негативных последствиях нужно думать уже сейчас.
В каком-то смысле эта технология мощнее соцсетей.
А с соцсетями мы уже натворили дел.
ИИ СДЕЛАЕТ СОЦСЕТИ ТОКСИЧНЕЕ
Конечно, развитие ИИ необязательно пойдет по правильному пути,
но это ведь вполне возможно.
Всё зависит от того, как мы будем применять эту технологию.
Нам просто нужно ввести несколько основных правил,
благодаря которым ИИ-модели будут решать наши проблемы,
а не наносить нам ущерб и не уничтожать нас.
Потому что в остальном всё равно будет неопределенность,
интерпретации, модели, которые можно использовать и так и этак.
Я, как горячий поклонник инноваций,
говорю: «Какое счастье, у меня в команде теперь ИИ».
Мне ближе антиутопия.
Я ведь пишу научную фантастику. Такую, как «Терминатор».
Вопрос в том, как нам с тобой прийти к некоему согласию.
Мне кажется, с учетом отдаленной угрозы
возникновения ИИ с безграничными возможностями
нужно признать, что он может быть полезен и в здравоохранении,
и в обучении, и в борьбе против изменения климата.
У ИИ много плюсов, но кое-чего в этой сфере надо остерегаться.
Неужели это так сложно понять?
По-моему, ничего сложного тут нет. Именно так это и нужно формулировать.
Ты ведь гуманист, да?
Вот главное, чтобы в этом деле доминировал гуманизм,
а не желание захватить рынок или дорваться до власти.
Если удастся направить потенциал ИИ на службу добру,
будет славно, но как с риском-то быть?
Нужно регулирование.
Но помимо этого важна этика и наша система ценностей.
Я с тобой согласен.
Тогда надо сделать что-нибудь крутое.
- У меня просьба. - Слушаю.
Я попросил ChatGPT написать от вашего имени три фразы о будущем ИИ.
- От моего имени? - Вот что написал ChatGPT.
Ничего себе.
Ладно.
Вот он, мой робот-двойник.
«ИИ будет играть важную роль в решении глобальных проблем».
«ИИ поможет людям и организациям принимать разумные решения».
«Надеюсь, эта технология будет использоваться ради общего блага».
«Соблюдение этических норм на каждом этапе».
Чушь.
Боже, надеюсь, я всё же поинтереснее.
Я, в общем, согласна, но это слишком заумно.
Он просто меня не знает.
А я не согласна.
Тут ИИ выступает в роли субъекта.
Так и написано: «ИИ будет…»
А я считаю, это люди будут.
Люди будут применять ИИ и другие инструменты, которые помогут
решать глобальные проблемы и внедрять инновации.
Вроде бы не так уж…
Не так уж сильно меняется фраза,
но с философской точки зрения это очень важный момент.
Да, тут есть о чем пофилософствовать.
Представьте, что в будущем
автоматизация достигла такого уровня,
что у нас стало много
свободного времени.
Прежние принципы больше не действуют.
Не надо выращивать еду.
Не надо создавать инструменты.
Не надо по 40 часов в неделю готовить сэндвичи в кафе.
Как человечество будет проводить это время?
Добившись успеха, человек спрашивает себя:
«Каковы мои следующие цели?»
Так вот — какова же цель человечества?
Перевод субтитров: Исмаил Дибиров