Безопасность

Послание недружественному Искусственному Интеллекту

Я уверен, что ты будешь читать всю литературу об ИИ, и я надеюсь, что ты сделаешь из нее правильные выводы.

Илон Маск призвал запретить боевых роботов
Военных роботов ещё даже толком не начали производить, но представители многих компаний уже написали открытое письмо с призывами запретить роботов-убийц. Под обращением подписался Илон Маск, глава лаборатории DeepMind и многие другие. После того как обращение собрало сто с небольшим подписей, его направили в ООН.

Илон Маск назвал искусственный интеллект большей угрозой, нежели КНДР 

Как обеспечить безопасность в эпоху AI и облачных платформ. Интервью с профессором Малковым

Цукерберг прокомментировал слова Маска о главной угрозе для человечества

Паранойя Илона Маска начинает раздражать исследователей ИИ
Страх перед сверинтеллектуальными машинами вполне реален для Илона Маска. Основатель Tesla и SpaceX уже много раз говорил об этом, но, пожалуй, самое эмоциональное замечание по этому поводу он сделал американским сенаторам, заявив, что искусственный интеллект (ИИ) представляет собой «принципиальный риск для существования человеческой цивилизации». Данный комментарий привлек внимание не только представителей власти, но и исследователей этого самого ИИ. И, судя по всему, они не очень с ним согласны.

Илон Маск начал крестовый поход стоимостью в миллиард долларов с целью остановить Апокалипсис из-за искусственного интеллекта

Что исследователи искусственного интеллекта думают о возможных рисках, связанных с ним

В последовавшие годы несколько чрезвычайно умных и влиятельных фигур, среди которых Билл Гейтс, Стивен Хокинг и Илон Маск, публично поделились своими опасениями по поводу рисков ИИ, а за ними повторяли сотни других интеллектуалов, от оксфордских философов до космологов из MIT и инвесторов из Кремниевой долины. И мы вернулись.

Илон Маск, Стивен Хокинг и сотни других экспертов подписали список из 23 принципов развития ИИ
Искусственный интеллект — это удивительная технология, которая изменяет мир, но каждый, кто смотрел фильм «Терминатор», знает, что продвинутый ИИ может быть опасен. Именно поэтому Илон Маск, Стивен Хокинг и сотни других исследователей и IT-экспертов подписали список из 23 основных принципов, которых стоит придерживаться при разработке ИИ, дабы она продвигалась в безопасном, продуктивном и нравственном направлении. 

Почему роботы должны научиться отказывать нам

HAL 9000, разумный компьютер из «Космической одиссеи» предсказывает зловещее будущее, в котором машины, наделённые интеллектом, не признают главенство человека. Захватив контроль над космическим кораблём, и убив почти всю команду, HAL отвечает на приказ возвращающегося космонавта открыть шлюз спокойным голосом: «Прости, Дэйв, но, боюсь, я не могу этого сделать». В недавнем НФ-триллере «Из машины» соблазнительный гуманоид Эва обманом заставляет несчастного молодого человека помочь ей уничтожить её создателя Нэйтана. Её махинации подтверждают мрачные предсказания Нэйтана: «Однажды ИИ посмотрят на нас так же, как мы смотрим на ископаемые скелеты на равнинах Африки. Прямоходящие обезьяны, живущие в пыли, с грубым языком и инструментами, чьё вымирание неизбежно».

Крупнейшие ИТ-компании не дадут ИИ вырваться из-под контроля человека

Искусственный интеллект — предмет большого количества дискуссий в научном и мире. Специалисты многих стран работают над созданием искусственного разума, который мог бы превзойти своего создателя. Некоторые ученые считают, что ИИ — это благо. Других специалистов сильная форма искусственного интеллекта пугает. В прошлом году бизнесмены, ученые, эксперты в сфере робототехники и других сферах подписали открытое письмо, в котором предостерегают производителей оружия от разработки боевых систем со 100% автономностью. В числе подписавшихся: Илон Маск, Стивен Хокинг, Ноам Хомский, Стив Возняк.

Ученые создадут «большую красную кнопку» для выключения искусственного интеллекта
Исследователи из Оксфордского университета и лаборатории DeepMind, принадлежащей Google, начали работу над системой аварийного выключения для самообучающихся алгоритмов. Об этом сообщает Business Insider со ссылкой на Институт изучения машинного интеллекта (MIRI).