Русское Информационное Поле
На главную
Архив
Общество и политика
Из жизни
Культура
Публицистика
Читательская проза
Соотечественники
Казачьи вести
Интересности
Рецепт дня
Три угрозы человечеству, которые несет искусственный интеллект
Источник: http://www.bbc.com/russian/features-43139404
Фото взято из оригинала статьи или из открытых источников


22.02.18
294

Превращенные в снаряды дроны, фейковые видео, манипулирующие общественным сознанием, и автоматизированный компьютерный взлом - вот три основные угрозы, которые, по мнению экспертов, исходят от искусственного интеллекта, попавшего в плохие руки.

Согласно опубликованному отчету "Вредоносное использование искусственного интеллекта", ИИ вполне может использоваться странами-изгоями, преступниками и террористами.

Те, кто производят робототехнику и системы искусственного интеллекта, должны прикладывать больше усилий к тому, чтобы их технология не была применена во вред, предупреждают авторы доклада и призывают правительства подумать о принятии новых законов.

Доклад призывает к следующему:

  • Политики и инженеры-разработчики должны совместно определить, каким именно может быть вредоносное использование ИИ и как это предотвратить
  • Осознать, что в то время как ИИ имеет множество разнообразных применений, это обоюдоострая технология, поэтому ученые и разработчики должны это учитывать и упреждать возможное злонамеренное использование ИИ
  • Перенять подход, который существует, к примеру, в сфере компьютерных технологий, где уже выработаны предохранительные меры против подобных рисков
  • Активное расширение круга заинтересованных сторон, связанных с упреждением и смягчением рисков злонамеренного использования ИИ

Специалист Центра по изучению экзистенциальных рисков при Кембриджском университете Шахар Авин сказал Би-би-си, что в докладе основное внимание уделяется областям ИИ, которые уже доступны или, вероятно, будут доступны в ближайшие пять лет, но нет взгляда в более отдаленную перспективу.

"Кардинальная перемена"

Особую тревогу вызывают новые методы обучения, применяемые к ИИ, когда робототехника доводится до уровня сверхчеловеческих интеллектуальных возможностей, но не имеет при этом ни примеров для подражания, ни руководства на человеческом уровне.

Авин обрисовал несколько сценариев, где ИИ может вдруг в ближайшем будущем "сорваться":

  • Такая программа, как AlphaGo - ИИ, разработанный компанией Google DeepMind, способный обыграть человека в игру го - может быть использована хакерами для нахождения шаблонов данных и уязвимости кодировки
  • Некий отдельно взятый злоумышленник может купить дрон, оснастить его программой распознавания лиц и с помощью него напасть на какого-то конкретного человека
  • Боты могут быть автоматизированы на производство фейковых видеоклипов с целью политических манипуляций
  • Хакеры могут использовать синтезированную речь для того, чтобы выдать себя за кого-то

Майлз Брандидж, научный сотрудник Института будущего человечества Оксфордского университета, сказал по этому поводу следующее: "ИИ изменит существующие угрозы для отдельных граждан, организаций и государств - будь то на уровне преступников, которые настроят машины на взлом или фишинг информации у отдельных лиц, или же это будет внедрение в частную жизнь путем слежения, профилирования личности и дальнейших репрессий - полный спектр воздействия этого на безопасность огромен".

"Очень часто так бывает, что системы ИИ не просто достигают человеческого уровня производительности, но намного его превосходят. Это очень печально, однако необходимо рассмотреть те последствия, к которым могут привести сверхчеловеческого уровня хакерство, слежка, методы убеждения и распознавание физической цели, а также возможности ИИ, которые хоть и не достигают человеческого уровня, но тем не менее гораздо лучше варьируются, чем человеческий труд", - полагает ученый.

Шон О'Хэггерти, исполнительный директор Центра по изучению экзистенциальных рисков и один из соавторов доклада, добавляет: "Искусственный интеллект кардинально все меняет, и этот доклад размышляет над тем, как мир может измениться в следующие 5-10 лет. Мы живем в мире, который может быть подвержен ежедневной опасности злоупотребления ИИ, и мы должны начать заниматься этой проблемой, потому что эти риски вполне реальны".

"Выбор надо делать уже сейчас, и наш доклад - это призыв начать действовать правительствам, организациям и отдельным лицам по всему миру. В течение долгих десятилетий шумиха вокруг ИИ и его способностей опережала реальность. Но теперь это не так. Это доклад рассматривает существующие в мире подходы, которые больше не работают, и предлагает более широкомасштабный подход: например, как создать программное обеспечение и микропроцессоры, которые труднее было бы взломать, и какие в поддержку этому нужно принять законы и международные уложения".

100-страничный доклад определяет три сферы - цифровую, физическую и политическую, в которых злонамеренное использование ИИ наиболее вероятно.

В составлении доклада также участвовали некоммерческая исследовательская компания OpenAI, группа по управлению цифровыми правами Electronic Frontier Foundation и Центр новых подходов к охране безопасности США.



Последние
Соотечественное лето: координационный совет как филиал Антилопы-Гну 07.08.18   116 /
В воскресенье, 5 августа, в Эстонии будет дождливо 05.08.18   55 /
«Спутник-Эстония» не пустили на «сборы эсэсовцев в Адской яме», и правильно сделали 29.07.18   228 /
Траурное мероприятие в Синимяэ на линии германской обороны Tannenberg 28.07.18   154 /
Мемориальный жест правительства Эстонии 28.07.18   114 /

Реклама
Лучшее за неделю

Общество и политика
Соотечественное лето: координационный совет как филиал Антилопы-Гну 07.08.18   116 /
В воскресенье, 5 августа, в Эстонии будет дождливо 05.08.18   55 /
«Спутник-Эстония» не пустили на «сборы эсэсовцев в Адской яме», и правильно сделали 29.07.18   228 /
Из жизни
В псковском доме престарелых освятили стиральные машины 19.04.18   291 /
Роскомнадзор приготовился заблокировать Facebook до конца 2018 года 19.04.18   315 /
Питерское СИЗО: Позвоночник сломан, следы от кипятильника во рту 18.04.18   552 /
Культура
«Источник жизни»: под конец войны в нацистские дома матери принимали неарийских финок 26.06.18   120 /
В замке Турку открылась выставка орденов и медалей, врученных президенту Мауно Койвисто 26.04.18   325 /
Музыка перестала объединять молодежь как раньше - последней массовой субкультурой были эмо 25.04.18   294 /
Публицистика
Олег Самородний. Илляшевич обещает написать вызывающую удивление книгу об эстонском православии 20.04.18   374 /
Химическое оружие и подозрительные бомбардировки 19.04.18   256 /
Chemical arms and suspected bombardments 19.04.18   248 /
Читательская проза
Юрьев, мирные переговоры, январь 1920 года. 02.02.18   544 /
У Лукоморья 03.11.17   647 /
Юрьев, мирные переговоры, январь 1920 года. 02.02.16   2331 /
Казачьи вести
Preparazione per la glorificazione dell'icona Madonna del Don 12.05.18   250 /
Подготовка к прославлению донской иконы Божией Матери «Умягчение злых сердец» 12.05.18   208 /
Поддержим редких обитателей Крыма 24.04.18   249 /
Соотечественники
Про сгущёнку и вторичный продукт 03.07.18   161 /
Спецсовещане при видном члене Корнилове как образец введения в блудняк 04.05.18   309 /
Михаил Петров, соотечественник. Повинная маргинала. 15.04.18   364 /
Рецепт дня
11 правил здорового питания, в которых вас обманули 08.09.16   1433 /
Суп из пива по рецепту Елены Молоховец 13.09.15   2369 /