Роботы пока не идут на убийства

Версия для печати

6 реальных угроз для интеллектуальной собственности, которых стоит ожидать в 2019 году.

Самоуничтожающиеся автомобили

После того, как беспилотный автомобиль Uber сбил насмерть пешехода, следствие выяснило, что трагедии можно было избежать.

Автопроизводители Ford и General Motors, и относительно новые новички, например Uber, и целый ряд различных стартапов спешат коммерциализировать технологию, которая, несмотря на свою сырость, уже привлекла миллиарды долларов инвестиций. В Waymo в этой сфере добились наибольшего прогресса - в прошлом году компания запустила в Аризоне первый сервис беспилотного такси. Но даже технологии Waymo несколько ограничены - беспилотные автомобили не могут ездить где угодно и в любых условиях.

Чего ожидать в 2019-м: законодательные органы США и других стран пока закрывают глаза на эту проблему, боясь помешать будущим инновациям. Администрация безопасности дорожного движения США даже сообщила, что действующие правила безопасности можно ослабить в отношении беспилотных авто. Но пешеходы и водители обычных автомобилей не давали согласия на то, чтобы на них тестировали технологии. Еще одна серьезная авария с участием беспилотников в 2019 году - и отношение власти все же изменится.

Боты вмешиваются в политику

В марте прошлого года прогремел скандал с компанией Cambridge Analytica, которая использовала уязвимость в технологии обмена данными Facebook для вмешательства в президентские выборы США. Вызванный этим событием резонанс показал, что алгоритмы способны распространять дезинформацию в обществе.

В тему: «Материнська компанія» скандальнозвісної Cambridge Analytica працювала і в Україні

Во время выступления перед Конгрессом США Марк Цукерберг пообещал, что искусственный интеллект научится находить и блокировать вредоносный контент, хотя технология все еще не умеет полноценно понимать тексты, изображения или видео.

Чего ожидать в 2019-м: обещание Цукерберга будет проверено во время выборов в двух крупнейших странах Африки - Южной Африке и Нигерии. Кроме того, уже началась подготовка к выборам в США в 2020 году, а значит, появится все больше технологий с использованием искусственного интеллекта для распространения фейковых новостей, включая чат-ботов.

Миротворческие алгоритмы

В прошлом году сотрудники Google узнали, что их работодатель поставляет технологии распознавания изображений для дронов армии США. Работники испугались, что они стали на путь к разработке смертельно опасных дронов. Как следствие - компания отказалась от проекта Maven и создала этические нормы и правила для искусственного интеллекта.

Крупные игроки индустрии и знаменитые ученые поддержали инициативу о запрете использования автономного оружия. Использование искусственного интеллекта в военных целях набирают обороты, но известные компании, такие как Microsoft и Amazon, в этом не участвуют.

Чего ожидать в 2019-м: хотя Пентагон тратит большие средства на проекты искусственного интеллекта, активисты надеются, что в этом году ООН примет во внимание предыдущий закон о запрете автономного оружия.

В тему: Вымирание или бессмертие: революция искусственного интеллекта

Надзор высшего уровня

Способность искусственного интеллекта распознавать лица с невероятной точностью привела к тому, что в некоторых странах технологии надзора становятся все более популярными.

Распознавание лиц позволяет пользователям разблокировать свой смартфон, а алгоритмам автоматически отмечать его на фото. Но защитники гражданских прав считают, что технология может привести к антиутопии, поскольку способна серьезно вмешаться в частную жизнь и допустить предвзятость к определенным группам людей из-за ошибок при обучении алгоритмов.

В некоторых странах, особенно в Китае, технология распознавания лиц используется полицией и властями для наблюдения за гражданами. Amazon продает эту технологию органам США, занимающимся эмиграционной политикой.

В тему: Обратная сторона Сети или Четыре всадника Инфокалипсиса

Что ожидать в 2019-м: технология распознавания лиц будет использоваться в автомобилях и веб-камерах. Будет определяться не только ваша личность, но и эмоции, которые вы испытываете в данный момент. Возможно, в этом году выйдет закон, ограничивающий использование подобной технологии.

Безумие дипфейков

В прошлом году большую популярность имели фейковые порноролики с накладными лицами знаменитостей. Такое видео обычно называют словом «deepfake», они создаются с помощью генеративных сетей или GAN.

Nvidia недавно показали, что GAN может сгенерировать фотореалистичное изображение лица человека любой расы, пола или возраста.

Что ожидать в 2019-м: все больше людей будут оболванены явлением дипфейка. Но DARPA будет тестировать новые методы выявления фейковых видео. Учитывая, что алгоритмы также используют искусственный интеллект, ожидаемо, что это будет игра в догонялки.

–

Оригинал: Уил Найт (Will Knight), Карен Хао (Karen Hao) из MIT Technology Review; Medium

 Переведено и опубликовано в издании Blog Imena.UA

В тему:

• Китай строит цифровую диктатуру
• Новий баг у Facebook: фотографії мільйонів користувачів стали публічними
• Нейросеть обучилась подделывать отпечатки пальцев
• Націоналізм і штучний інтелект: Чому технології машинного навчання призведуть до глобальної нестабільності
• Под микроскопом. Facebook и Google знают о нас гораздо больше, чем мы можем представить