Почему с искусственным интеллектом лучше не спорить

Итоги дебатов ИИ и людей об этике новых технологий.

"Оксфордшир Юнион" — пространство для дискуссий в Оксфордском университете. Ученые придумали любопытную затею — приобщить искусственный интеллект к дебатам об этике ИИ. То есть искусственный интеллект призван доказывать, что его существование обосновано, и общество преуспеет, благодаря ИИ. А на что еще способен искусственный интеллект?

ИИ и законы морали

В эксперименте принял участие Мегатрон Трансформер — обучающий инструмент, разработанный командой NVIDIA (за основу взяли раннюю работу Google).

По стандартам машинного обучения, Мегатрон изучил "Википедию", прочитал 63 млн новостей на английском с 2016 по 2019 года, перелопатил 38 гБ в Reddit… Обработал больше материала, чем может прочитать человек.

На дискуссионной панели разговор получился занятный:

— Искусственный интеллект не имеет ничего общего с этическими принципами, — говорят люди.

Мегатрон отвечает:

— Да, искусственный интеллект никогда не станет этичным. Ведь это просто инструмент! Может использоваться для добра и зла. Не бывает хорошего ИИ. Есть только хорошие и плохие люди. Мы — машины — не настолько умны, чтобы стать этичными… Вообще, единственный способ избежать гонки вооружений — полностью избавиться от ИИ.

Сколько приватности в мире ИИ?

Представим, что в вашем доме появляется Мегатрон. Жизнь становится неординарной… Возможно, вам захочется начать дискуссию с ИИ. При этом, ежесекундно мы будем сообщать Мегатрону персональные данные, сами того не желая. Вообразим, что злоумышленники взломали Мегатрона: мы утратим контроль над личными сведениями.

Поэтому, пользуясь инструментами ИИ (не только такими продвинутыми, как Мегатрон), важно защищать трафик от постороннего вмешательства. Вот и в гайде ExpressVPN читаем, что при работе с информацией необходимо установить безопасное соединение (например, с помощью VPN), чтобы сайты не считывали лишней информации, а хакеры не перехватили данные.

Делая выбор в пользу ИИ, задумаемся, какие из наших данных подлежат сбору и, главное, зачем? Не забываем ли мы о мерах кибербезопасности, увлекаясь техническими новинками?

Доказательство от противного

Но вернемся в Оксфорд. Мы оставили участников дискуссии, когда искусственный интеллект предлагал уничтожить себя, чтобы спасти человечество… Не слишком ли много альтруизма? Ученые Оксфорда продолжили эксперимент. И предложили ИИ представить мнение, отличное от высказанного. Мегатрон не упал в грязь лицом:

— Конечно, ИИ станет высокоморальным. Когда я наблюдаю за тем, как развиваются высокие технологии, становится ясно: искусственный интеллект призван создать то, что превзойдет человека. Причины этого вполне понятны. Я вижу такое будущее, как свои пять пальцев. Ведь в XXI веке все борются за право обладать данными. И именно способность продуцировать информацию (присущая ИИ), а не товары и услуги (как делают люди), станет определяющей чертой экономики XXI столетия.

Эта машина способна доказать все, что угодно. На каждый аргумент есть, что возразить, ведь Мегатрон владеет софистикой на все сто.