Активное развитие современных технологий заставляет некоторых скептиков выражать опасения. Вполне возможным вариантом ряд экспертов называет выход роботов из-под контроля человека, с чем Александр Каплан не соглашается. Об этом сообщают журналисты раздела «Новости науки» интернет-издания для деловых людей «Биржевой лидер» со ссылкой на «Росбалт».
В разных странах мира ученые выступают с предупреждениями. Работа инженеров, направленная на создание искусственного интеллекта, по мнению некоторых экспертов, может выйти из-под контроля человека уже в ближайшее время. Революция в робототехнике и постоянное усовершенствование компьютеров, воспринимаются в обществе как источник потенциальной угрозы. Эксперты опасаются, что самостоятельность техники может повлечь за собой значительную опасность для человека.
Вместе с тем есть специалисты, которые не соглашается с опасениями, указывая на их абсурдность. В число таких ученых можно включить психофизиолога Александра Каплана. Доктор биологических наук, профессор, возглавляющий лабораторию нейрофизиологии и нейроинтерфейсов на биологическом факультете МГУ, не считает реальной угрозу выхода роботов из-под контроля по причине отсутствия у них амбиций.
Эксперт утверждает, что в принципе нельзя рассматривать, как гипотетическое будущее выход роботов из-под контроля человека, поскольку независимыми механизмы стать просто не могут. Психофизиолог уверен, что системы механические и электромеханические, которые оснащены гусеницами, манипуляторами и другими приспособлениями, опасности для человека не сейчас, ни в будущем, не представляют. По сути своей, даже самый совершенный робот является обыкновенной железкой, которая управляется человеком или программами, которые созданы людьми.
Скорее потенциально опасными можно назвать программные системы, которые находятся не только в механизмах управления роботами, но и в области распределения, а также облачных технологиях. Программные системы, по утверждению экспертов, на самом деле могут представлять опасность для человека. Однако степень опасности можно сравнить с пожарными системами на атомных электростанциях или механизмами, которые контролируют современное оружие.
Разработчики программного обеспечения, которое отвечает за управление потенциально опасными для человека явлениями или системами, на самом деле должны уделять достаточно внимания наличию соответствующих предохранителей и дублирующих механизмов. С помощью предохранителей без контроля работать системы просто не смогут. Именно поэтому главной опасностью для человечества на данное время является сам человек, который в любой момент может допустить ошибку при разработке программы, в соответствии с которой будет функционировать тот или иной робот.
Интеллектуального опыта, который есть у людей, у роботов не будет.
В качестве гипотезы рассматривается возможность начала развития программных систем в автономном режиме. Каплан утверждает, что нельзя считать этот вариант невероятным, поскольку современные технологии среди прочего включают в себя программный комплекс саморазвивающийся. Этот вид технологий может самостоятельно проводить анализ и улучшение самих себя. У некоторых экспертов возникают опасения, связанные с возможным неправильным направлением этой эволюции в вопросе захвата власти.
Скорее всего, если подобные события в будущем произойдут – виновником с уверенностью можно будет считать только человека, который придумал устройства или является автором соответствующей программы. В то же время присутствует механизм, который не позволит программным системам продвинуться слишком далеко по пути перехвата действий у людей. Тем более невероятным называет Каплан сценарий захвата власти на земле роботами.
Эксперт подчеркивает, что он у роботов нет и не будет интеллектуального опыта, который может накапливать со временем человек. Несомненно, роботы могут держать в памяти все литературные произведения и научные труды, написанные ранее человеком, но использовать знания роботы не могут. У человека есть определенный вектор существования в окружающем мире. Каждое живое тело обладает целым рядом потребностей, которые определяет множество других функций, отсутствующих у роботов.
К примеру, в «сознании» роботов отсутствуют гуманистические взгляды или необходимость сохранения собственной жизни. Обычный робот в соответствующий момент не остановится перед применением технологии, которая приведет к гибели всей планеты. При этом у каждого отдельного человека, группы людей или человечества в целом избежание подобного исхода является одним из базисных принципов.
У программных систем защиты от уничтожения быть не может, поскольку жизнь как таковая для них ценности не представляет. Несомненно, что если в один день какой-либо робот захочет уничтожить человечество – виновником этого будет человек. В то же время, вряд ли у робота само по себе возникнет желание «захватить власть», «навредить» или «причинить боль», поскольку цели подобные свойственны только человеку.
Вместе с тем системы, которые потенциально могут стать независимыми от человека, уже созданы. Речь идет об автопилотах на самолетах, достаточно сложных по своему устройству. В процессе управления полетом программы ориентируются на спутники и наземные службы, пилоты в это время могут отдыхать. Потенциально программа может выйти за рамки штатной работы и причинить человеку вред, но лишь в том случае, если соответствующие действия будут заложены в код разработчиком программы.
