Русское Информационное Поле
На главную
Архив
Общество и политика
Из жизни
Культура
Публицистика
Читательская проза
Соотечественники
Казачьи вести
Интересности
Рецепт дня
Три угрозы человечеству, которые несет искусственный интеллект
Источник: http://www.bbc.com/russian/features-43139404
Фото взято из оригинала статьи или из открытых источников


22.02.18
10

Превращенные в снаряды дроны, фейковые видео, манипулирующие общественным сознанием, и автоматизированный компьютерный взлом - вот три основные угрозы, которые, по мнению экспертов, исходят от искусственного интеллекта, попавшего в плохие руки.

Согласно опубликованному отчету "Вредоносное использование искусственного интеллекта", ИИ вполне может использоваться странами-изгоями, преступниками и террористами.

Те, кто производят робототехнику и системы искусственного интеллекта, должны прикладывать больше усилий к тому, чтобы их технология не была применена во вред, предупреждают авторы доклада и призывают правительства подумать о принятии новых законов.

Доклад призывает к следующему:

  • Политики и инженеры-разработчики должны совместно определить, каким именно может быть вредоносное использование ИИ и как это предотвратить
  • Осознать, что в то время как ИИ имеет множество разнообразных применений, это обоюдоострая технология, поэтому ученые и разработчики должны это учитывать и упреждать возможное злонамеренное использование ИИ
  • Перенять подход, который существует, к примеру, в сфере компьютерных технологий, где уже выработаны предохранительные меры против подобных рисков
  • Активное расширение круга заинтересованных сторон, связанных с упреждением и смягчением рисков злонамеренного использования ИИ

Специалист Центра по изучению экзистенциальных рисков при Кембриджском университете Шахар Авин сказал Би-би-си, что в докладе основное внимание уделяется областям ИИ, которые уже доступны или, вероятно, будут доступны в ближайшие пять лет, но нет взгляда в более отдаленную перспективу.

"Кардинальная перемена"

Особую тревогу вызывают новые методы обучения, применяемые к ИИ, когда робототехника доводится до уровня сверхчеловеческих интеллектуальных возможностей, но не имеет при этом ни примеров для подражания, ни руководства на человеческом уровне.

Авин обрисовал несколько сценариев, где ИИ может вдруг в ближайшем будущем "сорваться":

  • Такая программа, как AlphaGo - ИИ, разработанный компанией Google DeepMind, способный обыграть человека в игру го - может быть использована хакерами для нахождения шаблонов данных и уязвимости кодировки
  • Некий отдельно взятый злоумышленник может купить дрон, оснастить его программой распознавания лиц и с помощью него напасть на какого-то конкретного человека
  • Боты могут быть автоматизированы на производство фейковых видеоклипов с целью политических манипуляций
  • Хакеры могут использовать синтезированную речь для того, чтобы выдать себя за кого-то

Майлз Брандидж, научный сотрудник Института будущего человечества Оксфордского университета, сказал по этому поводу следующее: "ИИ изменит существующие угрозы для отдельных граждан, организаций и государств - будь то на уровне преступников, которые настроят машины на взлом или фишинг информации у отдельных лиц, или же это будет внедрение в частную жизнь путем слежения, профилирования личности и дальнейших репрессий - полный спектр воздействия этого на безопасность огромен".

"Очень часто так бывает, что системы ИИ не просто достигают человеческого уровня производительности, но намного его превосходят. Это очень печально, однако необходимо рассмотреть те последствия, к которым могут привести сверхчеловеческого уровня хакерство, слежка, методы убеждения и распознавание физической цели, а также возможности ИИ, которые хоть и не достигают человеческого уровня, но тем не менее гораздо лучше варьируются, чем человеческий труд", - полагает ученый.

Шон О'Хэггерти, исполнительный директор Центра по изучению экзистенциальных рисков и один из соавторов доклада, добавляет: "Искусственный интеллект кардинально все меняет, и этот доклад размышляет над тем, как мир может измениться в следующие 5-10 лет. Мы живем в мире, который может быть подвержен ежедневной опасности злоупотребления ИИ, и мы должны начать заниматься этой проблемой, потому что эти риски вполне реальны".

"Выбор надо делать уже сейчас, и наш доклад - это призыв начать действовать правительствам, организациям и отдельным лицам по всему миру. В течение долгих десятилетий шумиха вокруг ИИ и его способностей опережала реальность. Но теперь это не так. Это доклад рассматривает существующие в мире подходы, которые больше не работают, и предлагает более широкомасштабный подход: например, как создать программное обеспечение и микропроцессоры, которые труднее было бы взломать, и какие в поддержку этому нужно принять законы и международные уложения".

100-страничный доклад определяет три сферы - цифровую, физическую и политическую, в которых злонамеренное использование ИИ наиболее вероятно.

В составлении доклада также участвовали некоммерческая исследовательская компания OpenAI, группа по управлению цифровыми правами Electronic Frontier Foundation и Центр новых подходов к охране безопасности США.



Последние
Игорь-Северянин. In atrium post mortem. 1 20.01.19   106 /
Поспешили: российские соотечественники Европы из Эстонии вступились за провокатора Елену Бойко 20.01.19   77 /
По мере старения населения в ДТП в Эстонии все чаще попадают пожилые люди 20.01.19   15 /
Женщины в Таллинне вышли на марш за свои права 20.01.19   8 /
Во время крещенских купаний на реке Пирита пропал 36-летний мужчина 20.01.19   16 /

Реклама
Лучшее за неделю
Игорь-Северянин. In atrium post mortem. 1 20.01.19   106 /
Поспешили: российские соотечественники Европы из Эстонии вступились за провокатора Елену Бойко 20.01.19   77 /
Во время крещенских купаний на реке Пирита пропал 36-летний мужчина 20.01.19   16 /
По мере старения населения в ДТП в Эстонии все чаще попадают пожилые люди 20.01.19   15 /
Женщины в Таллинне вышли на марш за свои права 20.01.19   8 /

Общество и политика
Поспешили: российские соотечественники Европы из Эстонии вступились за провокатора Елену Бойко 20.01.19   77 /
По мере старения населения в ДТП в Эстонии все чаще попадают пожилые люди 20.01.19   15 /
Женщины в Таллинне вышли на марш за свои права 20.01.19   8 /
Из жизни
В псковском доме престарелых освятили стиральные машины 18.04.18   711 /
Роскомнадзор приготовился заблокировать Facebook до конца 2018 года 18.04.18   736 /
Питерское СИЗО: Позвоночник сломан, следы от кипятильника во рту 18.04.18   1063 /
Культура
Игорь-Северянин. In atrium post mortem. 1 20.01.19   106 /
Игорь-Северянин. Хроника умирания. 5. Стареющий поэт. Фрагмент пьесы 20.12.18   304 /
Игорь-Северянин. Хроника умирания. 4. Письмо о. Сергия (Положенского) 19.12.18   260 /
Публицистика
Порошенко вошел в историю. На сей раз по-настоящему 17.12.18   242 /
Александр Невзоров: Каждый русский эмигрант мучительно думает, правильно ли он поступил, покинув Россию 15.10.18   417 /
Дипломатическая неприкосновенность уходит в прошлое 09.10.18   368 /
Читательская проза
Литературный конкурс клуба ветеранов МВД 08.01.19   200 /
Главы из новой книги. О смерти 15.12.18   326 /
Главы из новой книги. Радио Таллинн 11.11.18   422 /
Казачьи вести
Рождение сверхновой: генерал казачества Геннадий Шмырёв 21.11.18   416 /
Верховному атаману СКВРиЗ Виктору Петровичу Водолацкому «Аксиос!» 18.11.18   404 /
Задружились два «казака»: Верховный атаман Союза казаков Западной Европы и Верховный Атаман Прибалтийского Казачьего Круга 05.11.18   660 /
Соотечественники
Реплика: «Zоотечественники вновь поимели соотечественников, причём без мыла». 31.10.18   449 /
Тень КСРСЭ на плетень «Русского мира» в Эстонии 06.10.18   434 /
Проект положения о Всемирном координационном совете российских соотечественников, проживающих за рубежом 02.10.18   420 /
Рецепт дня
Хрюшка в багровых тонах. Новогодний этюд 27.12.18   278 /
11 правил здорового питания, в которых вас обманули 08.09.16   1840 /
Суп из пива по рецепту Елены Молоховец 13.09.15   2914 /