Отец интернета предупреждает: не торопитесь инвестировать в ИИ только потому, что ChatGPT «действительно крут»

У главного евангелиста Google и «отца Интернета» Винта Серфа есть послание для руководителей бизнеса, стремящихся ускорить деловые сделки с использованием искусственного интеллекта в чате: «Не надо».

Серф умолял участников конференции в Маунтин-Вью в понедельник не пытаться инвестировать в разговорный ИИ только потому, что «это горячая тема». Предупреждение прозвучало на фоне всплеска популярности ChatGPT .

«Здесь есть этический вопрос, который, я надеюсь, некоторые из вас учтут», — сказал Серф собравшимся на конференции в понедельник. «Все говорят о ChatGPT или его версии от Google, и мы знаем, что это не всегда работает так, как нам хотелось бы», — сказал он, имея в виду диалоговый ИИ Google Bard, о котором было объявлено на прошлой  неделе .

Его предупреждение приходит, когда крупные технологические компании, такие как Google, Мета и Майкрософт бороться с тем, как оставаться конкурентоспособными в области разговорного ИИ, быстро улучшая технологию, которая все еще часто допускает ошибки.

Председатель Alphabet Джон Хеннесси заявил ранее в тот же день, что системы все еще далеки от того, чтобы быть широко полезными, и что у них есть много проблем с неточностью и «токсичностью», которые необходимо решить, прежде чем даже тестировать их на публике.

Серф занимал должность вице-президента и «главного интернет-евангелиста» Google с 2005 года. Он известен как один из «отцов Интернета», потому что он участвовал в разработке некоторых архитектур, используемых для создания основы Интернета.

Серф предостерег от соблазна инвестировать только потому, что технология «действительно крутая, даже если она не всегда работает правильно».

«Если вы думаете: «Чувак, я могу продать это инвесторам, потому что это горячая тема, и все будут бросать в меня деньги», не делай этого», — сказал Серф, что вызвало смех в толпе. «Будь внимателен. были правы в том, что мы не всегда можем предсказать, что произойдет с этими технологиями, и, честно говоря, большая часть проблемы заключается в людях — вот почему мы, люди, не изменились за последние 400 лет, не говоря уже о последних 4000 лет».

«Они будут стремиться делать то, что приносит им пользу, а не вам, — продолжил Серф, по-видимому, имея в виду общую человеческую жадность. — Поэтому мы должны помнить об этом и внимательно относиться к тому, как мы используем эти технологии».

Серф сказал, что пытался попросить одну из систем добавить смайлик в конце каждого предложения. Он этого не сделал, и когда он сказал системе, что заметил, она извинилась, но не изменила своего поведения. «Мы далеки от осознания или самосознания», — сказал он о чат-ботах.

По его словам, существует разрыв между тем, что он говорит, и тем, что он делает. «Вот в чем проблема... между красноречиво выраженным ответом и точным не отличишь.

Серф привел пример, когда он попросил чат-бота предоставить биографию о себе. Он сказал, что бот представил свой ответ как фактический, хотя он содержал неточности.

«Что касается инженерной стороны, я думаю, что такие инженеры, как я, должны нести ответственность за попытки найти способ укротить некоторые из этих технологий, чтобы они с меньшей вероятностью причиняли вред. И, конечно же, в зависимости от приложения, не очень хорошая художественная история — это одно. Советы кому-то... могут иметь медицинские последствия. Выяснение того, как минимизировать потенциал наихудшего случая, очень важно».