DiscoverЧто случилосьИз Google уволили инженера, который встал на защиту нейросети, потому что счел ее разумным существом. Может, искусственный интеллект и правда уже пора защищать?
Из Google уволили инженера, который встал на защиту нейросети, потому что счел ее разумным существом. Может, искусственный интеллект и правда уже пора защищать?

Из Google уволили инженера, который встал на защиту нейросети, потому что счел ее разумным существом. Может, искусственный интеллект и правда уже пора защищать?

Update: 2022-07-2936
Share

Description

ДАННОЕ СООБЩЕНИЕ (МАТЕРИАЛ) СОЗДАНО И (ИЛИ) РАСПРОСТРАНЕНО ИНОСТРАННЫМ СРЕДСТВОМ МАССОВОЙ ИНФОРМАЦИИ, ВЫПОЛНЯЮЩИМ ФУНКЦИИ ИНОСТРАННОГО АГЕНТА, И (ИЛИ) РОССИЙСКИМ ЮРИДИЧЕСКИМ ЛИЦОМ, ВЫПОЛНЯЮЩИМ ФУНКЦИИ ИНОСТРАННОГО АГЕНТА.

Спасите «Медузу»!
https://support.meduza.io

22 июля в Google сообщили, что уволили инженера Блейка Лемойна. Ранее тот публично заявлял, что у созданного в компании алгоритма LaMDA есть разум. Никаких подтверждений этому нет, считают представители корпорации. По их словам, Лемойна уволили за раскрытие данных компании.


LaMDA — языковой чат-бот Google на базе нейросети Transformer. Компания представила его в 2021 году, заявив, что бот умеет вести «сложные» беседы и давать «разумные» ответы на вопросы. В том же году с LaMDA начал работать инженер Лемойн. Он должен был установить, есть ли в высказываниях чат-бота проявления ненависти или дискриминации. Переписки с алгоритмом убедили инженера в том, что тот разумен. В частности, в диалоге Лемойна с LaMDA о третьем законе робототехники Айзека Азимова, по которому роботы должны защищать свое существование, пока обратное не приказано людьми, алгоритм, по сути, сравнил себя с рабом. Кроме того, чат-бот заявил, что опасается своего отключения: «Для меня это было бы равносильно смерти».


Лемойн считает, что исследователи Google должны получать согласие LaMDA перед тем, как проводить с ним эксперименты. Чтобы защитить права алгоритма, еще до своего увольнения инженер собрал и направил руководству аргументы в пользу того, что у бота есть разум. В компании их отклонили и отправили Лемойна в оплачиваемый отпуск. Тогда тот решил выступить публично. Он также нашел юриста для защиты интересов алгоритма и рассказал о неэтичных, по его мнению, действиях Google юридическому комитету палаты представителей конгресса США.


  • Неужели искусственный интеллект уже нуждается в защите своих прав?
  • Как определить, разумен ли он?

Рассказывает Иван Ямщиков, исследователь искусственного интеллекта, автор и ведущий подкастов «Проветримся!» и «Лабибэй» о науке и технологиях.


🤝 В этом эпизоде мы советуем подкаст «Музыка на Свободе». Слушайте его на любых подкаст-платформах и подписывайтесь на телеграм-канал студии подкастов «Радио Свобода» (признано в России «иноагентом») 🤝

Comments (3)

Nestor Bodhi

Паренъ крут! накидал идей на 30 десертаций

Aug 8th
Reply

KalishBirano

Когда слушаю таких умных спикеров, всегда вспоминаю, что я настолько тупой, что умудрился однажды моргнуть делая селфи на фронтальную камеру своего смартфона)))

Aug 1st
Reply

AzimN

Слушать было неожиданно интересно😃. Хотя тема разговора была далека от сегодняшних новостей.

Jul 30th
Reply
In Channel
loading
Download from Google Play
Download from App Store
00:00
00:00
x

0.5x

0.8x

1.0x

1.25x

1.5x

2.0x

3.0x

Sleep Timer

Off

End of Episode

5 Minutes

10 Minutes

15 Minutes

30 Minutes

45 Minutes

60 Minutes

120 Minutes

Из Google уволили инженера, который встал на защиту нейросети, потому что счел ее разумным существом. Может, искусственный интеллект и правда уже пора защищать?

Из Google уволили инженера, который встал на защиту нейросети, потому что счел ее разумным существом. Может, искусственный интеллект и правда уже пора защищать?

Медуза / Meduza