Современные роботы не могут справиться с решением задач, связанных с выполнением моральных и этических норм

С учетом того, что роботы-андроиды, роботы-автомобили и роботы других видов все больше и больше входят в нашу повседневную жизнь, люди все больше задумываются о том, чем это все может быть чревато для них самих. В принципе, существующие нормы этики и морали не очень сложно оформить в виде наборов неких правил, запрограммировать их и зашить в "мозги" всех роботов. Но в окружающем нас мире очень часто случаются ситуации, когда возникает необходимость сделать быстро непростой выбор, руководствуясь исключительно собственными внутренними нормами и понятиями. И если в случае с человеком выбор будет определен внутренним миром этого человека, то, что в таком случае будет делать робот, не имеющий точных инструкций на такие случаи? Найти ответ на этот сложный вопрос попробовал исследователь-робототехник Алан Винфилд (Alan Winfield) из Лаборатории робототехники, Бристоль, Великобритания.

Алан Винфилд и его коллеги построили своего рода этическую ловушку для роботов. Подопытный робот был запрограммирован таким образом, чтобы своими действиями воспрепятствовать другим роботам, изображающим из себя людей, упасть в яму. В принципе, эта ловушка является упрощенной интерпретацией второй части Первого закона робототехники Айзека Азимова, который звучит следующим образом - "Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред".

Сначала робот-спасатель успешно справлялся со своей задачей. Когда робот, изображающий человека, начинал двигаться к яме, робот-спасатель успешно отталкивал второго робота, смещая его с опасной траектории движения. Но самое интересное началось в тот момент, когда исследователи ввели на поле еще одного робота, изображающего человека, что поставило робота-спасателя перед проблемой выбора. В результате этого ситуации на игровом поле начали происходить по совершенно непредсказуемым сценариям, в одних случаях роботу удавалось спасти обоих "людей", в других - только одного, а в третьих случаях - ни одного. А в 14 случаях из 33 попыток робот-спасатель, "узрев" второго "человека" просто зависал, его программа так и не смогла сделать выбор в пользу одного или другого "человека", в результате чего они оба упали в яму.

Результаты проведенных экспериментов, по мнению Алана Винфилда, указывают на то, что все современные роботы являются "нравственными зомби", которые не способны сделать своего собственного выбора. Конечно, такую ситуацию можно решить путем существенного расширения запрограммированного набора правил поведения, но роботы в любом случае будут просто выполнять эти правила, не понимая рассуждений, этических и моральных норм, стоящих позади этих правил.


Следует отметить, что первые шаги в этом направлении уже ведутся. Рональд Аркин (Ronald Arkin), инженер-программист из Технологического института Джорджии в Атланте уде разработал ряд алгоритмов для систем управления боевыми роботами. Этот ряд алгоритмом можно рассматривать как своего рода "этический контроллер", который позволит роботам принимать сложные решения на поле боя. Алгоритмы "этического контроля" уже были проверены на математических моделях, подобных современных компьютерным играм военной тематики, и это продемонстрировало их высокую эффективность. Беспилотники и другая робототехническая военная техника отказывалась вести огонь по школам, больницам и другим подобным объектам. А если это и приходилось делать, то огонь велся таким образом, чтобы количество жертв среди мирного населения было минимальным.

"Законы ведения войн разрабатывались и шлифовались в течение тысячелетий" - рассказывает Рональд Аркин, - "И роботы, в которых будут вложены эти законы, никогда их не нарушат в отличие от людей, которые способны преступить черту под силой стечения многих обстоятельств".

"Немного позже мы сможем взять за основу этические и моральные нормы поведения, разработанные для военных роботов, и без особых затруднений адаптировать их под других различных роботов" - рассказывает Алан Винфилд, - "Подчиняясь этим нормам, роботы будущего будут принимать решения и выполнять действия, причины и последствия которых будут понятны не только самим роботам, но и всем окружающим людям".

Эту проблему, так или иначе, придется решать в самом ближайшем времени. Ибо вполне вероятно возникновение таких ситуаций, когда, к примеру, автомобилю-роботу придется делать выбор между безопасностью его водителя, пассажиров и риском нанесения повреждений другим водителям или пешеходам. И простым набором правил, который нельзя расширять до бесконечности и которым не опишешь все возможные варианты событий, тут же не отделаешься.

Почему сотрудники Силиконовой долины отдают своих детей в школы без компьютеров?

Технический директор eBay отправил своих детей в школу без компьютеров. Так же поступили сотрудники и других гигантов Силиконовой долины: Google, Apple, Yahoo, Hewlett-Packard.

Эта школа имеет очень простой старомодный вид – доски с цветными мелками, книжные полки с энциклопедиями, деревянные парты с тетрадями и карандашами. Для обучения в ней используют привычные, не связанные с новейшими технологиями инструменты: ручки, карандаши, швейные иглы, иногда даже глину и др. И ни одного компьютера. Ни одного экрана. Их использование запрещено в классах и не поощряется дома.

В 5 классе дети вяжут на деревянных спицах небольшие образцы из шерсти, восстанавливая навыки вязания, полученные в младших классах. Этот вид деятельности, как утверждает школа, помогает развитию способности решать сложные задачи, структурировать информацию, считать, а также развивает координацию.
В 3 классе учительница упражняет учеников в умножении, попросив их быть быстрыми, как молнии. Полная комната живых калькуляторов.
Ученики 2 класса, стоя в кругу, повторяют за учителем стихотворение, одновременно играя с мешочком, наполненным фасолью. Цель этого упражнения – синхронизировать тело и мозг.

И это в то время, когда по всему миру школы торопятся оснастить свои классы компьютерами, а многие политики заявляют, что не делать этого – просто глупо. Интересно, что противоположная точка зрения получила широкое распространение в самом эпицентре высокотехнологичной экономики, где некоторые родители и педагоги дают понять: школа и компьютеры не совместимы.

Приверженцы обучения без IT-технологий уверены, что компьютеры подавляют творческое мышление, подвижность, человеческие взаимоотношения и внимательность. Такие родители считают, что когда будет действительно нужно познакомить своих детей с последними технологиями, у них всегда будут для этого требующиеся навыки и необходимые возможности у себя дома.

По мнению Энн Флин, директора по образовательным технологиям Национального совета по школьному образованию, компьютеры необходимы. «Если школы имеют доступ к новым технологиям и могут их себе позволить, но при этом не используют их, они лишают наших детей того, чего они могут быть достойны», — заявила Флин.

Пол Томас, бывший учитель и профессор Университета Фурмана, написавший 12 книг об образовательных методиках в государственных учреждениях, не соглашается с ней, утверждая, что для образовательного процесса лучше, если компьютеры используют как можно меньше. «Образование – это, прежде всего, человеческое переживание, получение опыта, — говорит Пол Томас. – Технология только отвлекает, когда нужны грамотность, умение считать и способность критически мыслить».

Когда сторонники оснащения классов компьютерами заявляют, что компьютерная грамотность необходима, чтобы противостоять вызовам современности, родители, считающие, что компьютеры не нужны, удивляются: зачем спешить, если все это так легко освоить? «Это супер легко. Это примерно так же, как научиться чистить зубы, — говорит мистер Игл, сотрудник Силиконовой долины. – В Google и подобных местах мы делаем технологии настолько тупо простыми, насколько это возможно. Не вижу причины, по которой ребенок не сможет освоить их, когда станет старше».

Сами же ученики не считают себя обделенными высокими технологиями. Они время от времени смотрят фильмы, играют в компьютерные игры. Дети говорят, что даже разочаровываются, когда видят своих родителей или родственников, опутанных разными устройствами.

Орад Камкар, 11 лет, рассказал, что недавно ездил в гости к двоюродным братьям и сестрам и оказался в окружении пяти человек, которые играли со своими гаджетами, не обращая на него и друг друга никакого внимания. Ему пришлось трясти каждого из них за руку со словами: «Эй, ребята, я здесь!»

Фин Хейлиг, 10 лет, отец которого работает в Google, говорит, что ему нравится учиться с карандашами и ручками больше, чем с компьютером, потому что он сможет увидеть свой прогресс в развитии спустя несколько лет. «Через несколько лет я смогу открыть свои первые тетради и увидеть, как я раньше плохо писал. А с компьютером это невозможно, там все буквы одинаковые, — говорит Фин. – Кроме того, если уметь писать на бумаге, то можно будет писать даже если на компьютер прольется вода или отключат электричество».

Кстати, о школьной форме...

Кстати, школьная форма появилась ещё в XVI веке. Это произошло в Англии во времена правления Генриха Восьмого. Ученики носили тёмно-синие жакеты, жилеты и брюки из дешёвой ткани. Считалось, что такой костюм дисциплинирует. В России форму для мальчиков ввели в 1834 году. Девочки начали носить одинаковую одежду только через 60 лет, когда был открыт Смольный институт благородных девиц. После Октябрьской революции от этойпрактики отказались. Форму вернули в 1948 году.

Опасные для компьютера файлы

Опытного пользователя от начинающего можно отличить по одному очень явному признаку – знание расширений файлов. Первые легко могут сказать, чем является тот или иной файл — картинкой, программой, а какой лучше не открывать без проверки антивирусом. Вторые вовсе не понимают, о чем речь и как собственно выглядят эти расширения. Эта статья предоставит вам необходимый минимум знаний, который понадобится для того, чтобы безопасно работать на компьютере

Расширения – что это такое?
Википедия определяет это понятие как последовательность символов, которые добавляются к имени файла и используются для идентификации его формата. Это самый распространенный способ, с помощью которого можно определить тип данных, сохраненных в файле.
По умолчанию в Windows отключено отображение файлов. Скорее всего, разработчики таким образом попытались оградить пользователей от ненужной информации. Но в результате появилось огромное количество людей, которые ориентируются на названия файлов и открывают все подряд.
Через Панель управления можно включить функцию, которая обеспечит отображение расширений файлов. Откройте «Параметры папок». Во вкладке «Вид» уберите галочку напротив опции «Скрывать расширения для зарегистрированных типов файлов».

Опасные расширения файлов
Качественная антивирусная программа в состоянии обезопасить вашу работу. Однако даже идеальный антивирус может не успеть занести заразу в свои фильтры или ошибиться. Поэтому дополнительным фактором защиты должна стать ваша голова, в которой есть необходимые знания.
Если вы получили файл по электронной почте от незнакомого человека, обратите внимание на его расширение. Если найдете его в указанном ниже списке, не открывая, отправьте его на проверку антивирусной программой.

Программы
.EXE — программный файл. Большая часть программ в Windows имеет именно такое расширение.
.PIF —специальный файл, который содержит информацию для DOS-программ. В них нет исполнимого кода, но они могут быть опасными.
.COM — программы для MS-DOS.
.APPLICATION — установщик приложения, поддерживающие технологию ClickOnce от Microsoft.
.HTA — веб-приложение. Могут быть опасными, в отличие от приложений html типа, работающих в вашем браузере.
.MSC — файл консоли управления Microsoft.
.GADGET — сервис для отображения на рабочем столе в Windows Vista и 7.
.SCR — файл скринсейвера.
.MSI — начинает процесс установки программы на вашем компьютере.
.MSP — обновления для уже установленных программ.
.CPL — это расширение имеют все элементы в панели управления.
.JAR — исполнимый код для среды Java.

Скрипты
.CMD — пакетный файл по типу .BAT, но это расширение файла было введено в Windows NT
.BAT — пакетный файл, который ранее использовался в MS-DOS. Он содержит ряд последовательных команд для вашего компьютера.
.VB, .VBS, .VBE — файл VBScript. Будет при запуске выполнять свой VBScript код.
.WS, .WSF, .WSC, .WSH — файлы Windows Script.
.PS1, .PS1XML, .PS2, .PS2XML, .PSC1, .PSC2 — командный сценарий для Windows PowerShell.
.JS, .JSE — файл JavaScript. При работе в барузере и использовании на веб-страницах является относительно безопасными. Но, если Windows откроет эти файлы вне браузера, это может быть опасно.
.MSH, .MSH1, .MSH2, .MSHXML, .MSH1XML, .MSH2XML — командный сценарий для Monad. Monad позже был переименован в PowerShell.

Ярлыки
.LNK — обеспечивает запуск программы. Может содержать атрибуты командной строки, которые представляют опасность, так как могут удалять файлы без разрешения.
.INF — текстовый файл, предназначенный для автоматического запуска с внешних носителей. Часто используется для файлов, копируемых с флешек или дисков.
.SCF — файл Windows Explorer. Может содержать потенциально опасные команды.

56 команд, которые должен знать каждый пользователь Windows

При постоянной работе в Windows необходимо должное внимание быстрым способам доступа к различным инструментам, чтобы наиболее оперативно получать необходимое и выполнять задачи.

Ниже вы найдете список команд, которые запускают наиболее популярные инструменты и которые вам могут пригодиться в повседневной работе за компьютером.

appwiz.cpl — Удаление программ
calc — Калькулятор
charmap — Таблица символов
chkdsk — Утилита для проверки дисков
cleanmgr — Утилита для очистки дисков
cmd — Командная строка
compmgmt.msc — Управление компьютером
control — Панель управления
control admintools — Администрирование
control desktop — Настройки экрана / Персонализация
control folders — Свойства папок
control fonts — Шрифты
control keyboard — Свойства клавиатуры
control mouse — Свойства мыши
control printers — Устройства и принтеры
control schedtasks — Планировщик заданий
desk.cpl — Разрешение экрана
devmgmt.msc — Диспетчер устройств
dfrgui — Дефрагментация дисков
diskmgmt.msc — Управление дисками
dxdiag — Средства диагностики DirectX
eventvwr.msc — Просмотр событий
explorer — Проводник Windows
firefox — браузер Firefox
firewall.cpl — Брандмауэр Windows
iexplore — Браузер Internet Explorer
inetcpl.cpl — Свойства браузера Internet Explorer
logoff — Выйти из учетной записи пользователя Windows
magnify — Лупа (увеличительное стекло)
main.cpl — Свойства мыши
migwiz — Средство переноса данных Windows
mmsys.cpl — Настройка звука
mrt — Средство удаления вредоносных программ
msconfig — Конфигурация системы
msinfo32 — Сведения о системе
mspaint — Графический редактор Paint
ncpa.cpl — Сетевые подключения
notepad — Блокнот
osk — Экранная клавиатура
perfmon — Системный монитор
powercfg.cpl — Электропитание
prs — Средство записи действий по воспроизведению неполадок
regedit — Редактор реестра
rrr — Быстрый запуск Reg Organizer
shutdown — Завершение работы Windows
sysdm.cpl — Свойства системы
syskey — Защита БД учетных записей Windows
taskmgr — Диспетчер задач
timedate.cpl — Настройка даты и времени
utilman — Центр специальных возможностей
verifier — Диспетчер проверки драйверов
wab — Адресная книга Windows
winver — Версия Windows
wmplayer — Проигрыватель Windows Media Player
write — Редактор Wordpad
wscui.cpl — Центр поддержки