Не позволяйте спорному искусственному интеллекту Google обмануть вас
Дискуссии вокруг разумности ИИ не новы, но новости об ИИ LaMDA от Google раздули пламя. После того как один из инженеров заявил, что бот обладает сознанием и даже душой, некоторые знакомые вопросы возникли вновь
Может ли ИИ, подобный LaMDA, быть разумным или самосознающим, и если да, то как это определить? Имеет ли это значение?
Что такое LaMDA?
LaMDA, сокращение от Language Model for Dialogue Applications, впервые появилась в 2021 году на конференции разработчиков Google. Предполагается, что эта продвинутая система искусственного интеллекта поможет создать другие, более мелкие чат-боты. Когда Google впервые представил ее, он объявил о планах интегрировать ее во все, помогая таким сервисам, как Google Assistant и Search, чувствовать себя более человечными или, по крайней мере, естественными
Когда инженер Google Блейк Лемуан пообщался с LaMDA, чтобы проверить, не использует ли она язык ненависти, у него сложилось другое впечатление. Лемуан заявил, что LaMDA разумна, и если бы он не знал, что это бот, то подумал бы, что это восьмилетний ребенок
После разговоров с LaMDA Лемуан пытался доказать, что это было сознательно, и защитить то, что он считал своими законными правами. В ответ Google отправил Лемуана в оплачиваемый административный отпуск за нарушение соглашения о конфиденциальности
Действительно ли LaMDA разумна?
Так является ли LaMDA на самом деле разумным? Большинство экспертов, которые высказывались по этому вопросу, настроены скептически.LaMDA – это высокотехнологичная чат-платформа с искусственным интеллектом, анализирующая триллионы слов из интернета, поэтому она умеет говорить как реальный человек
Это не первый случай, когда один из ИИ Google обманывает людей, принимая их за людей. В 2018 году Google продемонстрировал свой ИИ Duplex, позвонив в ресторан, чтобы заказать столик. При этом сотрудник на другом конце провода не сомневался, что разговаривает с человеком
Понятие ‘разум’ сложно определить, хотя большинство людей сомневаются, что ИИ уже достиг этой точки. Тем не менее, важным вопросом может быть не то, является ли LaMDA на самом деле разумным, а то, какая разница, если он может обмануть людей, заставив их думать, что это так
Возможные юридические последствия LaMDA
Ситуация с LaMDA поднимает множество юридических и этических вопросов. Во-первых, некоторые люди могут задаться вопросом, правильно ли поступила компания Google, отправив Лемуана в отпуск за то, что он высказался по этому поводу
Согласно статье 740 трудового законодательства Нью-Йорка, защита информаторов защищает сотрудников от подобных последствий, если они считают, что действия их работодателя нарушают закон или представляют значительный риск для общественной безопасности. Предполагаемая разумность LaMDA не совсем соответствует этому требованию закона, но должна ли она соответствовать?
Наделение ИИ правами – непростая тема. Хотя ИИ может создавать вещи и казаться человеком, вы можете столкнуться с некоторыми сложными ситуациями, если эти машины будут иметь юридическую защиту. Юридические права оперируют вознаграждениями и наказаниями, которые не влияют на ИИ, что усложняет правосудие
Если самоуправляемый автомобиль сбивает пешехода, виновен ли ИИ, если закон рассматривает его как человека? И если да, то это не обеспечивает справедливости для жертвы, поскольку технически нельзя наказать ИИ так же, как человека
Еще один вопрос, который возникает в связи с LaMDA и подобными чат-ботами с искусственным интеллектом, – это их безопасность. Если эти боты будут казаться убедительно реальными, люди могут больше доверять им и будут готовы предоставить им больше конфиденциальной информации. Это открывает двери для целого ряда проблем, связанных с конфиденциальностью и безопасностью, если эта технология попадет в чужие руки
ИИ ставит сложные этические вопросы
ИИ, подобные LaMDA, становятся все более сложными и реалистичными. По мере развития этой тенденции компании и законодатели должны пересмотреть свое отношение к ИИ и то, как эти решения могут повлиять на правосудие и безопасность
В настоящее время ИИ LaMDA от Google, возможно, и не является разумным, но он достаточно хорош, чтобы обмануть людей и заставить их думать, что он таковым является, что должно вызывать определенную тревогу
Комментировать