Русское Информационное Поле
На главную
Архив
Общество и политика
Из жизни
Культура
Публицистика
Читательская проза
Соотечественники
Казачьи вести
Интересности
Рецепт дня
Три угрозы человечеству, которые несет искусственный интеллект
Источник: http://www.bbc.com/russian/features-43139404
Фото взято из оригинала статьи или из открытых источников


22.02.18
365

Превращенные в снаряды дроны, фейковые видео, манипулирующие общественным сознанием, и автоматизированный компьютерный взлом - вот три основные угрозы, которые, по мнению экспертов, исходят от искусственного интеллекта, попавшего в плохие руки.

Согласно опубликованному отчету "Вредоносное использование искусственного интеллекта", ИИ вполне может использоваться странами-изгоями, преступниками и террористами.

Те, кто производят робототехнику и системы искусственного интеллекта, должны прикладывать больше усилий к тому, чтобы их технология не была применена во вред, предупреждают авторы доклада и призывают правительства подумать о принятии новых законов.

Доклад призывает к следующему:

  • Политики и инженеры-разработчики должны совместно определить, каким именно может быть вредоносное использование ИИ и как это предотвратить
  • Осознать, что в то время как ИИ имеет множество разнообразных применений, это обоюдоострая технология, поэтому ученые и разработчики должны это учитывать и упреждать возможное злонамеренное использование ИИ
  • Перенять подход, который существует, к примеру, в сфере компьютерных технологий, где уже выработаны предохранительные меры против подобных рисков
  • Активное расширение круга заинтересованных сторон, связанных с упреждением и смягчением рисков злонамеренного использования ИИ

Специалист Центра по изучению экзистенциальных рисков при Кембриджском университете Шахар Авин сказал Би-би-си, что в докладе основное внимание уделяется областям ИИ, которые уже доступны или, вероятно, будут доступны в ближайшие пять лет, но нет взгляда в более отдаленную перспективу.

"Кардинальная перемена"

Особую тревогу вызывают новые методы обучения, применяемые к ИИ, когда робототехника доводится до уровня сверхчеловеческих интеллектуальных возможностей, но не имеет при этом ни примеров для подражания, ни руководства на человеческом уровне.

Авин обрисовал несколько сценариев, где ИИ может вдруг в ближайшем будущем "сорваться":

  • Такая программа, как AlphaGo - ИИ, разработанный компанией Google DeepMind, способный обыграть человека в игру го - может быть использована хакерами для нахождения шаблонов данных и уязвимости кодировки
  • Некий отдельно взятый злоумышленник может купить дрон, оснастить его программой распознавания лиц и с помощью него напасть на какого-то конкретного человека
  • Боты могут быть автоматизированы на производство фейковых видеоклипов с целью политических манипуляций
  • Хакеры могут использовать синтезированную речь для того, чтобы выдать себя за кого-то

Майлз Брандидж, научный сотрудник Института будущего человечества Оксфордского университета, сказал по этому поводу следующее: "ИИ изменит существующие угрозы для отдельных граждан, организаций и государств - будь то на уровне преступников, которые настроят машины на взлом или фишинг информации у отдельных лиц, или же это будет внедрение в частную жизнь путем слежения, профилирования личности и дальнейших репрессий - полный спектр воздействия этого на безопасность огромен".

"Очень часто так бывает, что системы ИИ не просто достигают человеческого уровня производительности, но намного его превосходят. Это очень печально, однако необходимо рассмотреть те последствия, к которым могут привести сверхчеловеческого уровня хакерство, слежка, методы убеждения и распознавание физической цели, а также возможности ИИ, которые хоть и не достигают человеческого уровня, но тем не менее гораздо лучше варьируются, чем человеческий труд", - полагает ученый.

Шон О'Хэггерти, исполнительный директор Центра по изучению экзистенциальных рисков и один из соавторов доклада, добавляет: "Искусственный интеллект кардинально все меняет, и этот доклад размышляет над тем, как мир может измениться в следующие 5-10 лет. Мы живем в мире, который может быть подвержен ежедневной опасности злоупотребления ИИ, и мы должны начать заниматься этой проблемой, потому что эти риски вполне реальны".

"Выбор надо делать уже сейчас, и наш доклад - это призыв начать действовать правительствам, организациям и отдельным лицам по всему миру. В течение долгих десятилетий шумиха вокруг ИИ и его способностей опережала реальность. Но теперь это не так. Это доклад рассматривает существующие в мире подходы, которые больше не работают, и предлагает более широкомасштабный подход: например, как создать программное обеспечение и микропроцессоры, которые труднее было бы взломать, и какие в поддержку этому нужно принять законы и международные уложения".

100-страничный доклад определяет три сферы - цифровую, физическую и политическую, в которых злонамеренное использование ИИ наиболее вероятно.

В составлении доклада также участвовали некоммерческая исследовательская компания OpenAI, группа по управлению цифровыми правами Electronic Frontier Foundation и Центр новых подходов к охране безопасности США.



Последние
Сегодня участников дорожного движения проверят на трезвость 23.10.18   14 /
AUTUMN MOOD ON 22.10.18   62 /
Трамп: США выйдут из договора о РСМД из-за нарушений со стороны России 22.10.18   12 /
Берлин сожалеет о выходе США из договора о ликвидации РСМД 22.10.18   15 /
РПЦ объявила Константинопольского патриарха Варфоломея раскольником 22.10.18   13 /

Реклама
Лучшее за неделю
Реплика: Магистр Ольга Сухаревская и 20-я эстонская дивизия Waffen SS 17.10.18   76 /
Афон вышел из-под власти Константинопольского патриархата 20.10.18   46 /
Лавров рассчитывает, что у НАТО хватит разума не допустить большой войны 18.10.18   43 /
Основателя скандального MV-lehti Илью Яницкина приговорили к тюремному сроку за преступления ненависти 19.10.18   43 /
В Таллинне на площади Виру появилась бронзовая скульптура волка 20.10.18   41 /

Общество и политика
Сегодня участников дорожного движения проверят на трезвость 23.10.18   14 /
Трамп: США выйдут из договора о РСМД из-за нарушений со стороны России 22.10.18   12 /
Берлин сожалеет о выходе США из договора о ликвидации РСМД 22.10.18   15 /
Из жизни
В псковском доме престарелых освятили стиральные машины 19.04.18   397 /
Роскомнадзор приготовился заблокировать Facebook до конца 2018 года 19.04.18   431 /
Питерское СИЗО: Позвоночник сломан, следы от кипятильника во рту 18.04.18   711 /
Культура
Викторина СОРСЭ: А вы ноктюрн сыграть смогли бы на флейте водосточных труб? 02.10.18   134 /
Автор исследования об ивангородских священномучениках Владислав Кумыш 26.09.18   79 /
Священномученики Ивангородские. Протоиерей Димитрий Чистосердов и иерей Александр Волков (фрагмент) 26.09.18   98 /
Публицистика
Александр Невзоров: Каждый русский эмигрант мучительно думает, правильно ли он поступил, покинув Россию 15.10.18   62 /
Дипломатическая неприкосновенность уходит в прошлое 09.10.18   70 /
Хронология европейских событий 30-х годов прошлого века: Договоры о ненападении. 26.09.18   81 /
Читательская проза
Михаил Петров. Главы из новой книги. 3 15.10.18   113 /
Михаил Петров. Главы из новой книги . 2 09.10.18   137 /
Михаил Петров. Главы из новой книги 05.10.18   154 /
Казачьи вести
Preparazione per la glorificazione dell'icona Madonna del Don 12.05.18   405 /
Подготовка к прославлению донской иконы Божией Матери «Умягчение злых сердец» 12.05.18   337 /
Поддержим редких обитателей Крыма 24.04.18   353 /
Соотечественники
Тень КСРСЭ на плетень «Русского мира» в Эстонии 06.10.18   85 /
Проект положения о Всемирном координационном совете российских соотечественников, проживающих за рубежом 02.10.18   98 /
Координационный совет: смена риторики, бахвальство и пустозвонство 12.09.18   153 /
Рецепт дня
11 правил здорового питания, в которых вас обманули 08.09.16   1541 /
Суп из пива по рецепту Елены Молоховец 13.09.15   2544 /