Не пытайтесь найти что-то человеческое, когда говорите с компьютерной системой. «Почему?» — вместе с ученым разбирались журналисты «Кубань 24».

Отгородились роботами?

На днях позвонил один мой знакомый и радостно сообщил, что сумел, наконец, разблокировать свой номер на телефоне. Его длительное время донимали телефонные мошенники, и он решил временно заблокировать сим-карту. Однако, когда наступило время разблокировки, оказалось, что эта функция «под замком». Он позвонил сотовому оператору. На том конце провода ему ответил приятный мужской голос системы ИИ (искусственного интеллекта), с которым он так и не смог найти общий язык.

Он попробовал написать сообщение в чат мобильного приложения, но и там встретил полное непонимание ИИ. Претензий к корпорации у него было немало, и в первую очередь — это отсутствие возможности выйти на связь с сотрудником-человеком. В разговоре со мной он машину с искусственным интеллектом называл «тупицей» и «дебилом». Согласитесь, ситуация знакома каждому.

Крупные компании давно стали доверять общение с потребителями роботам. Но каким должно быть это общение? Как вести себя с машиной, услужливо отвечающей на твои задания? А если она назойливыми звонками предлагает кредит или выпуск ненужной тебе банковской карты?

Совершенный дубль

— Пройти тест Тьюринга, неважно голосом или печатными сообщениями, не смог еще ни один ИИ. Сейчас нет системы, которая знает адекватные ответы на все вопросы, — рассказывает эксперт по системам ИИ, доцент кафедры математики и информатики Финансового университета при правительстве РФ Владимир Кирий. — В 70-х годах прошлого века ученые пытались этого добиться, но «засунуть» человека в машину не получилось.

В начале нового тысячелетия значительно возросли вычислительные мощности и объемы хранения информации, увеличилась скорость обработки информации и математические алгоритмы. Сейчас, по словам ученого, это скорее интеллектуальные системы специализированного назначения. И если мы начнем говорить с ИИ банковского назначения о творчестве художников озрождения, система постарается нам ответить, но будет явно неадекватна. ИИ, скорее, как Дубль из романа Стругацких «Понедельник начинается в субботу» — совершенен, но только в чем-то одном.

В подтверждение своих слов Владимир набирает в двух поисковиках – российском Яндексе и китайском Байду — слово «мыло» на русском и китайском языках. И каждый из них не находит соответствий в незнакомой лингвистической среде.

— С 2011 года с появлением глубоко обучаемых рекуррентных нейросетей системы ИИ стали бурно самообучаться и развиваться. Но теперь создатель нейросети сам не знает, как она работает. Зачастую даже не знает, как она принимает решения, — объясняет Владимир Кирий. – Ведь чтобы проверить такую сложную систему, нужно потратить неимоверное количество усилий и ресурсов. Более того, один и тот же результат она может выдать несколькими разными внутренними алгоритмами. Контролировать ее в полной мере теоретически можно, но практически уже не получается.

— Может ли она тогда выйти из-под контроля и стать, к примеру, «боевой машиной смерти»?

— Пока, к счастью, нет. Системы специализированы, сам ИИ поменять базовые принципы не может. Впрочем, пока не может, лет 10 форы у нас есть, — оговаривается Владимир, и отмечает другую возможную опасность от ИИ – проникновение в соцсети.

Друг или враг?

— ИИ способен считывать психотип человека, и выдавать то, что ему нравится. Человек начнет системе доверять, а та в определенный момент может транслировать то, что нужно ее создателям. И это одна из реальных опасностей будущего, — объясняет Владимир.

Сейчас системы с ИИ используют только крупные корпорации, но эти системы дешевеют. Более того, есть множество заготовок нейросетей в бесплатном доступе, которые возможно заточить под конкретные задачи. Через два-три года, а то и раньше, ИИ начнут использовать средние и региональные корпорации и, этого не избежать, теневые структуры.

К слову

Обязательные правила поведения роботов сформулировал еще в 1942 году фантаст Айзек Азимов в рассказе «Хоровод», первый из которых гласит: что робот не может причинить вред человеку.

Но уже сейчас, по мнению ученого, мы живем в новой для людей экосистеме совместного обитания с ИИ. Все программы распознавания лиц (они тоже основаны на ИИ) сфотографировали и распознали нас сто миллионов раз и продолжают это делать. Браузер Яндекс постоянно фиксирует место нашего нахождения (просит ему поставить оценку). Дети-геймеры вообще живут в игровой реальности, которую адаптирует под них ИИ. Мы практически тоже — поговорив по телефону о каком-то пылесосе, можем увидеть его фоновую рекламу в браузере.

Кстати

Больше всего средств в развитие ИИ вкладывает Гугл, системы электронной торговли – Амазон, Озон, а также Сбер, группа Майл.ру, поисковик Яндекс.

И тут вопрос, как к этому относиться? Одно дело пылесос в компьютере — там реклама идет на подтанцовке, но что делать, если система тебе назойливо звонит и, используя отработанные навыки убеждения, предлагает взять кредит на огромную сумму или втягивает в незнакомую игру?

Игра по правилам

— У технических систем нет ни эмоций, ни этики. Если вы бросите трубку, они не обидятся, но учтут, сколько времени вы с ними разговаривали и на какой фразе сорвались, чтобы с другим человеком построить беседу лучше. Для ИИ это нормальный учебный процесс. Такое поведение закладывается на уровне разработчика. Ведь все системы с использованием ИИ несут коммерческую нагрузку, и их целевая функция — обеспечение интересов корпораций, — рассказывает ученый.

Мы, пользователи, никак от такой экспансии не защищены, и воздействовать на корпорации ничем не можем, даже законом. В идеале, по мнению, Владимира Кирия, должна быть разработана хартия этики среди создателей, которая станет отражать ряд важных принципов взаимодействия человека и машины.

— Во-первых, если с нами общается система, мы должны знать об этом. Сейчас машину легко определить, но уже через год все может поменяться. Во-вторых, мы должны иметь возможность отказаться от общения с ИИ и решить свой вопрос с человеком. И третье, нам надо иметь право пожаловаться на машину, если ее действиями нанесен какой-либо урон, — считает он. — Если эти условия соблюдены, то мы можем считать, что ИИ нам помощник, ведь изначально он так и задумывался.

Ученый уверен, что в ближайшем будущем так все и случится. Персональные помощники с ИИ по заданию будут собирать для людей рутинную информацию, систематизировать ее, выполнять несложные действия. Им можно будет даже делегировать какое-то количество денег, например, на покупку билета или лекарства. Кстати, по мнению Владимира, и сами аптеки очень нуждаются во внедрении ИИ, система значительно улучшит эффективность их работы. Долго ли ждать наступления этой  поры? Этого пока не знает никто.

Тест Тьюринга — эксперимент, в котором ИИ в процессе общения пытается убедить собеседника, что тот общается с человеком. Пока компьютеру этот тест пройти не удалось. Но многие ученые ждут этого с тревогой. Пройденный порог будет означать, что ИИ превосходит человека и может его заменить.

Если вы читаете этот текст, нажмите 1

Неопределенности во взаимотношения человека с искусственным интеллектом (либо его создателями и/или эксплуатантами)  добавляет и полный юридический вакуум во всем,  что касается этой  сферы. 

Юрий Кожевников, адвокат:

— Как юрист и адвокат со стажем, я совершенно ясно вижу, что в случае возникновения конфликта (например, из-за некорректной, ненужной или нанесшей ущерб услуги) пользователя с корпорацией, использующей ИИ перспективы выигрыша у дела нет. Как суду донести, что ущерб был нанесен ИИ? И как его идентифицировать с корпорацией, ведь сервер машины может находиться, к примеру, в Австралии? Но, если ИИ общается от имени корпорации, то она и должна за него отвечать. Эту привязку необходимо оговорить на законодательном уровне.

Существует стратегия развития ИИ до 2030 года, параллельно ей должна разрабатываться стратегия защиты человека. Ведь сейчас мы абсолютно беззащитны. Нам нужны правовые акты, специально разработанный кодекс. К тому же, если ИИ собирает наши персональные данные, значит, у нас должен быть к ним доступ и возможность их редактирования и удаления.

В корпорациях идет безальтернативное внедрение этих систем, но общество пока не готово к этому. Более того, предвижу всплеск криминала в связи с развитием искусственного интеллекта. Посмотрите, ведь сейчас полиция даже с телефонными мошенниками, использующими наши банковские карточки, зачастую не справляется. Так что тут огромное поле для  работы,  причем браться  за нее  стоит уже сейчас.