Новости

Руководитель Google AI: «Не прислушивайтесь к торговым советам ChatGPT» | Интервью

Антон Помплиано

Число ChatGPT и торговых ботов растет, но можно ли доверять их рекомендациям? Лоуренс Морони, руководитель отдела искусственного интеллекта в Google, обсуждает пересечение искусственного интеллекта и web3 в эксклюзивном интервью crypto.news.

Технологии искусственного интеллекта (ИИ) и блокчейна быстро развиваются. С ростом доступности ИИ риск дезинформации вырос, поскольку такие инструменты, как ChatGPT, позволяют каждому генерировать большие объемы вводящего в заблуждение контента. Эксперты предполагают, что блокчейн может решить эту проблему. Web3 может предоставить безопасную и проверенную систему идентификации, гарантирующую точность и надежность информации в эпоху искусственного интеллекта.

Crypto.news поговорил с Лоуренсом Морони, руководителем искусственного интеллекта в Google, во время конференции SmartCon, организованной Chainlink в Барселоне, на эту и другие темы. Мы исследовали синергию между web3 и ИИ, почему не следует полагаться на ChatGPT и торговых ботов и действительно ли ИИ может угрожать человечеству.

«Web3 обеспечивает AI3»

Crypto.news: Для начала, не могли бы вы рассказать о своем пути к Биткойну и криптовалютам?

Лоуренс Морони: Впервые я узнал о Биткойне и криптовалютах восемь или девять лет назад, прочитав книгу «Конец денег» журнала New Scientist, и это открыло мне глаза. Сначала я подумал, что это пограничное мошенничество, но потом прочитал и понял, как это работает и о чем идет речь.

После этого я построил свою первую установку для майнинга. Мне нужно вернуться и посмотреть, действительно ли я что-нибудь добыл. Я помню, как оставил его включенным на несколько недель и получил несколько обрывков, но в то время эти обрывки стоили копейки.

Меня также немного отпугнул шиллинг NFT. У меня есть несколько друзей, чьи аккаунты в Твиттере были взломаны людьми, желающими продать NFT, и это выставило криптовалюту в плохом свете. Это позор, потому что там так много хорошего.

Я думаю, что AI сталкивается с похожей ситуацией. Когда вы сегодня заходите в Твиттер или другие социальные сети, ИИ заставляет всех этих людей рассказывать, как вы можете стать миллионером, просто будучи быстрым инженером. Точно так же год назад они рассказали, что можно стать миллионером, продав NFT. К сожалению, индустрия запятнана этим, а также другими вещами, о которых мы все знаем. Но я думаю, что у него есть ноги, потому что у него есть жизнеспособные решения. Я в основном положительно отношусь к криптовалюте. И если web3 поддерживает AI3, то потенциал здесь огромен.

Crypto.news: Каковы, по вашему мнению, ключевые пересечения между ИИ и криптовалютами?

Лоуренс Морони: Я думаю, здесь так много моментов, что сложно перечислить их вкратце.

Есть шутка, что индустрия ничего не понимает до версии 3. Когда мы смотрим на то, где сейчас находится генеративный ИИ, он сталкивается со многими проблемами. Например, когда данные получены из материала, потенциально защищенного авторским правом, возникают вопросы: кому принадлежит результат? Такие случаи, как конкурсы произведений искусства, созданных ИИ, привели к разногласиям, показывая, что искусство ИИ не может быть защищено авторским правом. Технологии устремились вперед, но соображения, касающиеся данных и их последствий, еще не догнали их.

Криптовалюта может помочь в этом. Например, рассмотрим данные. В будущем, если я стану автором и даю разрешение на использование моих данных в моделях обучения с проверкой личности и хранением данных в цепочке, когда кто-то будет использовать модель, обученную на моих данных, некоторые из сгенерированных токенов могут поток ко мне — это приносит пользу создателям данных.

Для потребителей моделей возможность проверять информацию в сети с использованием доверенных моделей повышает доверие к входящим данным. Наконец, для разработчиков моделей работа с проверенными данными и данными, разрешенными пользователем, позволяет им преодолеть эти препятствия. По сути, web3 обеспечивает AI3.

Почему не стоит доверять ChatGPT

Crypto.news: Что вы думаете об этом практических приложениях, таких как торговые боты или использование ChatGPT для консультирования по инвестициям? Функционируют ли они в настоящее время должным образом?

Лоуренс Морони: Во-первых, очень важно понять, что такое бот по сути. Бот построен на основе преобразователя — алгоритма машинного обучения, который изучает, как один шаблон текста можно преобразовать в другой. Он предсказывает, что будет дальше, основываясь на изученных закономерностях. Например, если я говорю: «Если вы счастливы и знаете это», вы обычно ожидаете, что следующая часть будет «Хлопайте в ладоши». Трансформатор создает такие модели.

Теперь представьте себе огромный массив текстов в Интернете, который включает в себя инвестиционные советы. Некоторые из них — хорошие советы, некоторые — плохие, а некоторые — вымышленные. Модель не знает разницы между ними. Генеративные модели, такие как GPT, где «G» означает генеративный, создают контент, то есть выдумывают что-то. Готовы ли вы доверять торговым советам или совершать сделки на основе модели, обученной на сочетании хороших, плохих и вымышленных советов?

Crypto.news: А что, если кормить модель исключительно достоверными данными с авторитетных бирж? Сможет ли он эффективно работать в этом сценарии?

Лоуренс Морони: Если бы вы обучали модель исключительно на данных с авторитетных бирж и только на успешных транзакциях, у вас было бы больше шансов получить надежные результаты. Но вы никогда не сможете предсказать будущее. Аналитики уже много лет пытаются это сделать, как с помощью ИИ, так и с помощью традиционной науки о данных. Нет никого, кто мог бы правильно предсказать цены.

Более того, если миллион человек одновременно будут использовать эту модель, ее проверяемость и точность утратят свою актуальность. Когда все что-то покупают, цена растет. Если все продадут его, цена упадет независимо от того, что вы прогнозируете.

Я не верю в будущее торговых ботов таким образом. И я беспокоюсь, что если у вас есть миллион ботов, делающих одно и то же, они потенциально могут перевернуть рынок.

Crypto.news: Значит, вы тоже не думаете, что ИИ сможет в конечном итоге заменить людей-финансовых консультантов?

Лоуренс Морони: ИИ сделает финансовых консультантов-людей гораздо более эффективными. Финансовым консультантам часто приходится читать обширные документы, которые могут содержать тысячи слов, чтобы найти ценную информацию. LLM могут помочь в запросе и извлечении значимой информации из этих документов, тем самым повышая эффективность.

Если вы думаете о бухгалтерах, то изобретение электронных таблиц не сделало их устаревшими. Это привело к увольнению бухгалтеров, которые работали с ручкой и бумагой. Но это сделало бухгалтеров гораздо более эффективными.

Crypto.news: Еще одна проблема, о которой часто говорят эксперты, заключается в том, что торговые данные слишком централизованы.

Лоуренс Морони: Это действительно может быть одной из проблем, я согласен. Еще одна проблема, которую следует учитывать, — это централизованные вычисления. Однако по мере того, как модели становятся больше и их функциональные возможности растут, мы, вероятно, увидим разделение этих моделей на более мелкие.

Мы уже видим признаки этого. Например, в последней версии GPT-4 создатели заявили, что она включает в себя несколько моделей, работающих вместе.

Мы вступаем в эпоху, когда несколько моделей работают вместе, чтобы решать проблемы. Вот тогда это становится интересным, особенно если мы рассматриваем потенциал децентрализации моделей после того, как мы сможем их распространять. Размещение гигантской единой модели с 300 миллиардами параметров непосредственно в блокчейне непрактично. Это слишком велико. Однако за счет разработки более мелких распределенных моделей, каждая из которых работает на разных блокчейнах, и использования таких протоколов, как CCIP, для моста между цепочками, децентрализация становится реальным будущим.

Является ли ИИ угрозой человечеству?

Crypto.news: В книге «Страшный ум» Мо Гавдата, бывшего директора по бизнесу Google [X], есть идея, что ИИ, когда-то превзошедший человеческий интеллект, может представлять угрозу. Кроме того, эксперты призвали приостановить разработку передовых технологий искусственного интеллекта из-за опасений непредвиденных последствий. Что вы думаете по этому поводу?

Лоуренс Морони: Думаю, моя точка зрения немного другая. Модели ИИ — это инструменты, используемые людьми для различных целей. И бесчеловечность человека по отношению к человеку представляет большую опасность, чем какой-либо конкретный инструмент.

Я часто говорю, и это может звучать как шутка, но я думаю, это правда, что я гораздо больше боюсь биологического невежества, чем машинного интеллекта. И если вы посмотрите на самые мощные сегодня ИИ, то увидите, что они в основном безвредны.

Crypto.news: Но некоторые утверждают, что ИИ развивается экспоненциально.

Лоуренс Морони: Действительно, мощь ИИ растет в геометрической прогрессии, но его рост направлен на создание более эффективных решений. Это не обязательно означает, что они являются более опасными решениями. Например, уровень галлюцинаций в большой языковой модели может снизиться. Возможности использования его в качестве утилиты могут возрасти.

Однако есть известный случай, когда мужчина в Бельгии покончил жизнь самоубийством после сеанса общения в ChatGPT. Очевидно, это очень трагическая ситуация. Более мощная модель, в десять или 100 раз мощнее, на мой взгляд, не означает, что вероятность этого будет в десять или 100 раз выше. Я думаю, что обстоятельства, которые приводят к такому ужасному результату, не имеют ничего общего с моделью. Модель, возможно, сыграла важную роль, и было бы хорошо узнать, какие меры следует соблюдать в подобных обстоятельствах. Но для меня увеличение мощности модели не означает прямого увеличения ущерба, который она может нанести.

Я знаю, что мое мнение не разделяют многие люди, и думаю, только время покажет. Но я давно в сфере технологий и давно видел негативные истории, которые не оправдались. Помните год 2000? Большинство людей верили, что 1 января 2000 года каждый компьютер выйдет из строя. На YouTube вы можете найти видео, снятые тогда, в том числе видео Леонарда Нимой, актера, сыгравшего Спока в «Звездном пути», рассказывающего о том, как наступит конец света. И ничего не произошло. Мы по большей части забыли об этом.

Я не говорю, что это будет совершенно безопасно. Я думаю, что есть плохие люди, которые используют сильные вещи, чтобы совершать плохие поступки. Это именно проблема. И это то, о чем я беспокоюсь. Если вы дадите кому-то пистолет побольше, он сможет убить больше людей. Но вы не остановите это, остановив развитие ИИ. Я думаю, что положительное использование ИИ значительно перевешивает отрицательное. Но иметь контроль, понимать, как эти вещи используются, и устанавливать соответствующие меры для предотвращения таких вещей, на мой взгляд, было бы правильным подходом.

Crypto.news: И, наконец, недавние исследования показывают, что с быстрым прогрессом искусственного интеллекта «возможность того, что он станет сознательным, становится все менее и менее фантастической». Что вы об этом думаете?

Лоуренс Морони: Это возможно, но это также зависит от того, как мы определяем сознание. Я не вижу никакого пути к этому с сегодняшними технологиями, но технологии действительно быстро меняются. Посмотрим.

Одна из вещей, связанных с сознанием, — это идея возникновения, когда что-то не является разумным, но, исходя из того, как оно ведет себя, мы считаем, что оно разумно. Мы уже видели подобные случаи, когда люди верили, что ChatGPT жив или Bard жив, потому что он в глазах смотрящего.

Я думаю, что мы еще увидим такое: людей, верящих в то, что что-то живое, умное, разумное и самосознательное. Делает ли это его живым, умным и умным? Возможно, потому что, что, если критическая масса людей поверит в это? Если восемь миллиардов человек вдруг поверят, что ChatGPT жив, сможет ли он быть жив? Я не знаю.

Когда мы смотрим на растения или ворон, мы склонны не считать их разумными. Но там, где я живу в районе Сиэтла, у нас много койотов, и если я выгуливаю собаку, вороны предупреждают друг друга, когда видят койота, и в результате помогают мне. Итак, есть все эти места, где мы не видим интеллекта, самосознания или чувств, и это заставляет нас переосмыслить это. Искусственно создавая вещи, мы больше узнаем о себе, и я нахожу это увлекательным.

Смотрите также

2023-10-07 20:52