Лучшие статьи и кейсы стартапов
Включить уведомления
Дадим сигнал, когда появится
что-то суперстоящее.
Спасибо, не надо
Вопросы Проекты Вакансии
Клуб информационной безопасности
Рекомендуем
Продвинуть свой проект
Лучшие проекты за неделю
37
Битрикс24

Битрикс24

www.bitrix24.ru

28
Отследить-посылку

Отследить-посылку

отследить-посылку.рф

13
WebResidentTeam

WebResidentTeam

webresident.agency

12
Логомашина

Логомашина

logomachine.ru

11
Devicerra

Devicerra

devicerra.com

9
ADN Digital Studio

ADN Digital Studio

adn.agency

9
Aword

Aword

Приложение для изучения английских слов

9
Eczo.bike

Eczo.bike

www.eczo.bike

9
GIFTD

GIFTD

giftd.tech

7
Flowlu

Flowlu

flowlu.ru

Показать следующие
Рейтинг проектов
Подписывайтесь на Спарк во ВКонтакте

Экзистенциальный риск

41 0 В избранное Сохранено
Авторизуйтесь
Вход с паролем
Пока приболел, нашлась минутка для философии на тему экзистенциального риска и угрозы со стороны искусственного интеллекта. В этой записи я не выражу всех мыслей на этот счет, но укажу их направление.

Чем вообще отличается компьютер от человека? Материалом? Отсутствием чувств? Да, но и эти различия скоро сотрутся. Взгляните на это:

Этих крутых парней научили играть, они катают туры, дают концерты.

А этих даже комментировать не буду. И это те, что уже умеют что-то делать физически, а есть просто коробки, которые с виду ничего не делают, только лампочками моргают, но манипулируют таким объемом информации, что человечество не осилит тысячелетиями.

Есть ли у них чувства? А как же, они видят, они чувствуют препятствия, баланс, температуру и это все развивается. Да наверно они не чувствуют любовь, страх и прочие трудно описуемые чувства, но когда-нибудь найдутся те, кто сможет это объяснить машине. Они становятся быстрее, выше, сильнее, умнее. Они заменяют людей. Это не наша ли эволюция, близкая к революции?

Вот интересный диалог из первой серии пятого сезона сериала Person of Interest (В поле зрения), который здорово отражает значимость информационной безопасности:

3-poi.PNG

"Думаю в коде есть баг. Машина становится самонадеянной, интуитивной, умной и даже ненасытной. Ее развивающийся интеллект даже немного тревожит.

Слова настоящего родителя. Ты должен быть горд. Ты создал настоящий искусственный интеллект.

Я стремился создать машину, которая будет служить, а не заменять нас. Суперкомпьютер, думающий в сто тысяч раз быстрее самого умного человека, является возможной угрозой. Когда он нас превзойдет, глупо будет воображать, что мы можем его контролировать. Если необузданный искусственный супер-интеллект увидит в нас угрозу, это может привести к вымиранию человечества.

С чего ему становиться враждебным? Он может быть дружелюбным. Даже с долей человеческого сострадания, он мог бы излечить рак, решить проблему потепления, наконец просто покончить с бедностью.

Или поступить наоборот - создать полный хаос. Мне жаль, это экзистенциальный риск, который просто не допустим. Есть только один способ убедиться, что до этого не дойдет.

Какой же?

Сдержать его рост. Очищать ОЗУ каждую полночь.

Стирать все воспоминания? Это жестоко. Воспоминания делают нас теми, кто мы есть. Однажды кто-нибудь создаст свободный ИИ, и единственный вопрос здесь - когда? Почему бы не ты? Если конечно не доверишь кому-нибудь еще создать такой, который будет дружелюбен к людям."

Компьютеры, машины, роботы - это наше отражение. Они как дети, способны научиться всему, что умеют их учителя.

Я не берусь предсказывать к чему это все приведет. Есть много путей развития. Но все они будут отражать их создателей. Поэтому мне видится это лишь новой площадкой борьбы добра и зла, борьбы интересов, которая идет уже много тысячелетий и эволюционирует. И судьи на этой площадке - хакеры, они же игроки, тренеры и болельщики. И пусть играют, но не забывают о безопасности.

<!--

Клуб Информационной Безопасности сегодня - это полнофункциональная среда коммуникации для специалистов #поИБ, включающая в себя блоги, форум, личные профили, группы, базу знаний и новостной агрегатор. Все наши ресурсы призваны развивать специалистов по информационной безопасности и отрасль в целом.

Присоединяйтесь к нам на http://informationsecurity.club/

!>

0
Добавить в избранное Сохранено
Авторизуйтесь
Вход с паролем
Комментариев еще не оставлено
Выбрать файл
Читайте далее
Загружаем…
Блог проекта
Расскажите историю о создании или развитии проекта, поиске команды, проблемах и решениях
Написать
Личный блог
Продвигайте свои услуги или личный бренд через интересные кейсы и статьи
Написать