Чем опасны роботы для человека
Роботы против людей
— Может робот написать симфонию? Может робот взять холст и превратить его в шедевр?
— А ты можешь?
В погоне за совершенным миром с удобными технологиями мы сами усложняем себе жизнь. Роботы уже вокруг нас, если вы не заметили. Мы заказываем еду через приложения, летаем на самолётах с режимом автопилота. Наш телефон знает о нашей жизни больше, чем мы сами можем запомнить, а фейсбук узнаёт лица случайных прохожих на фотографиях, которые мы выкладываем в сеть. Нас оперируют роботы-хирурги, наши дети играют с дронами.
Какие опасности кроются в стремительной автоматизации и роботизации, так ли это пугающе на самом деле? Имеют ли фильмы, в которых искусственный интеллект завоёвывает мир, хоть какое-то отношение к нашей жизни? И да, и нет.
Будущее без работы
Разработчик и футуролог Мартин Форд считает, что роботы оставят нас без работы.
Проблема не только о том, что машина уже обыграет человека в шахматы, она гораздо шире — совершенствование роботов и алгоритмов машинного обучения меняет рынок труда и угрожает многим профессиям. Разработчики учат машины делать те конкретные вещи, за которые вам платят деньги.
На Уолл-стрит, по оценкам, от 50 до 70% операций на фондовом рынке проводят роботы-трейдеры. Они отслеживают действия инвестиционных фондов, выявляют перспективные акции и скупают их. Они могут не хуже живых брокеров обманывать другие алгоритмы, создавая заявки и отзывая их за доли секунды. К слову о профессиональной занятости: как следствие, число финансистов на Уолл-стрит сократилось вдвое за последние десять лет.
Гастрономическая бизнес-модель
Японская сеть суши-ресторанов Kura внедрила автоматизированную систему в работу своих 262 ресторанов. Роботы помогают готовить суши, а специальная система следит за свежестью блюд. Официантов в этой сети нет, их место заняли конвейерные ленты. Заказ можно сделать с помощью сенсорных панелей, а пустые тарелки оставить в специальном месте рядом со столом. Система автоматически формирует счёт и моет посуду, оставляя без работы людей.
Новости без журналистов
Разработанная в 2010 году студентами и преподавателями программа StatsMonkey создавала тексты о матчах в привычном нам стиле спортивной журналистики. Разработчики пошли дальше и адаптированная система искусственного интеллекта Quill теперь используется ведущими средствами массовой информации, в том числе Forbes, для написания статей о спорте, экономике и политике. По прогнозам, в ближайшие 15 лет доля новостных материалов, созданных алгоритмами, может увеличится до 90%. Нужно ли говорить, что это меняет уровень и формат журналистики.
Большие данные и коммерческие цели
Технологии анализируют большие данные, чтобы городские службы могли лучше организовать движение и предотвратить пробки (так называемые «умные города» уже появляются в Европе). Но, есть и обратная сторона у таких технологий, когда данные используются в коммерческих целях. Так, для компании Target на основе анализа продаж по 25 различным видам косметики и медицинской продукции был выведен сложный набор корреляций, который позволил предсказывать беременность покупательниц на раннем сроке. Дальше компания предлагала женщинам купить товары для беременных. Эта история повлекла за собой дискуссии в обществе на тему этичности вторжения в частную жизнь.
Искусственный интеллект и рынок труда
Суперкомпьютер IBM Watson с системой искусственного интеллекта в 2011 году одержал победу в игре Jeopardy (аналог передачи «Своя игра»). Чтобы найти ответ к подсказке, система анализировала слова, определяла, что нужно отыскать, затем запускала алгоритмы по поиску в общем объёме справочных материалов, после чего ранжировала ответы и находила из них наиболее подходящий. Такие преимущества, как работа с разными источниками, с большим объёмом информации и обнаружение неочевидных связей, позволяют применять систему в медицине. Уже сейчас Watson помогает в диагностике и корректировке лечения пациентов в Кливлендской клинике и Онкологическом центре Андерсона при Техасском университете. Это не единственное применение системы Watson: компания IBM также сотрудничала с Citigroup в сфере банковского обслуживания. По прогнозам Мартина Форда, применение Watson в колл-центрах при обслуживании клиентов может привести к серьёзным последствиям для рынка труда.
Пища и кров на основе 3D-технологии
У трёхмерной печати есть все шансы стать популярной технологией. Она позволяет печатать сложные конструкции с изгибами и углублениями из разных материалов и даже создавать единый объект из движущихся деталей.
Уже сейчас пищевые принтеры производят печенье и шоколад. В скором времени трёхмерная печать может прийти к вам на кухню, и как только она заменит вашу мультиварку, это, в свою очередь, приведёт к гибели рынка готовых изделий.
С помощью трёхмерных принтеров можно будет строить дома дешевле и без потери качества. Но есть один минус у этой технологии — за работу таких принтеров придётся заплатить рабочими местами.
Автоматизация уничтожает практику и навыки
Американский писатель Николас Карр, рассуждая на тему автоматизации в своей статье «Всё можно потерять: Почему опасно доверять наши знания машинам» в The Atlantic, приводит примеры из области авиации. Из-за высокого уровня автоматизации пилоты всё меньше времени проводят за штурвалом, у них меньше практики управления самолётом, что в итоге влияет на безопасность полётов, хотя технологии призваны как раз её повысить. Потеря навыков из-за внедрения технологий может повлиять на всех, кто работает в офисах и на промышленных предприятиях.
В будущее с оптимизмом
Однако не всё так драматично. Инженер и автор книги Дэвид Минделл в своей книге «Восстание машин отменяется! Мифы о роботизации» как раз, напротив, утверждает, что роботы и искусственный интеллект не несут угрозы, если подходить к делу разумно.
Во-первых, технологии пока ещё не столь совершенны, чтобы стать полностью автономными или заместить людей. Так, несмотря на то, что беспилотные автомобили Google прошли тысячи километров без дорожных происшествий, на этих тест-драйвах присутствовали водители и специалисты по программному обеспечению, которые могли включать или отключать автономный режим. Открытым остаётся вопрос, как будет работать машина в сложной дорожной обстановке, когда необходимо передавать управление от машины человеку. Ориентируясь на карты и систему ПО, как будет действовать машина, если система не обновится до новой версии, а ландшафт неожиданно изменится, к примеру, из-за выпадения снега? Во-вторых, разработчиками технологий и роботов являются люди: чем сложнее механизмы, тем сильнее они внедрены в социальную систему и контролируются людьми. Так, например, беспилотные аппараты не летали бы в воздушном пространстве без соответствующих изменений для пилотируемых аппаратов.
В-третьих, по утверждению Минделла, в процессе развития технологий происходит слияние «ручной режим управления, дистанционный и автономный развиваются совместно, и грани между ними постепенно стираются».
О плюсах и минусах технологий, рынке и о том, верить ли в сверхразумность и технологическую сингулярность, воспетую изобретателем Рэймондом Курцвелом, читайте в книге Мартина Форда «Роботы наступают: развитие технологий и будущее без работы».
Если вы прикипели к новым технологиями и жизнь без них для вас невозможна, остановите свой выбор на оптимистичной книге Дэвида Минделла «Восстание машин отменяется! Мифы о роботизации».
Книги про роботов и ИИ:
2021, ООО «Альпина Диджитал»
Все права защищены
Киборг-убийца. Как роботизированная техника убивает людей без предупреждения
Робот — лучший друг человека. Если оглянуться на мир вокруг себя, то мы окружили себя десятками умных устройств и механизмов, активно развивая и повсеместно внедряя искусственный интеллект. Взять тот же быт: умные роботы-пылесосы, умные холодильники/чайники, весы, не говоря уже о смартфонах, Smart TV и новомодном автопилоте в электрокарах.
Признайтесь, мы уже не можем комфортно существовать без подобной техники, так как она серьезно упрощает и без того насыщенную на события жизнь современного человека. Однако есть и специализированные роботизированные разработки военного направления. Например, боевые дроны или даже роботы-собаки производства Boston Dynamics. Последние предназначены для осуществления разведывательной деятельности, патрулирования и переноса тяжелых грузов.
Боевые роботы — уничтожение живой силы без приказа человека
Многие роботизированные механизмы призваны облегчить или полностью заменить человека при выполнении действий военного характера. Например, разведка, разминирование территорий или вовсе участие в боестолкновениях. Существует два вида боевых роботов: устройства телеприсутствия и полностью автономные механизмы. Последних крайне мало, поэтому подавляющее большинство умных разработок могут действовать только под наблюдением оператора.
Однако в последнее время появились и гибридные роботы, программное обеспечение которых позволяет самостоятельно обнаруживать и уничтожать объекты, сводя к минимуму участие человека. В марте 2020 года турецкий квадрокоптер Kargu-2 стал первым в мире боевым дроном, уничтожившим живую силу противника, полностью находясь в автономном режиме работы.
Произошло это на территории Ливии в ходе вооруженного конфликта между правительственной армией страны и военной группировкой Халифа Хафтара. Дрон Kargu-2 выследил и уничтожил одного из солдат Хафтара, и это первый в мире случай, когда человек был уничтожен машиной без приказа со стороны оператора.
Смертоносный автопилот
Автопилот, повсеместно внедряемый в автомобили, призван упростить управление машиной, помогая, а в некоторых случаях и полностью заменяя человека в водительском кресле. В интернете немало роликов о том, как автопилот Tesla моментально реагирует на угрозу на трассе и уворачивается от столкновения или попадания в авто стороннего предмета. Однако хватает и свидетельств о том, как автономное управление убивает людей, как находящихся в автомобиле, так и за его пределами.
Самым свежим событием является страшная авария, произошедшая в США в штате Техас. Автомобиль марки Tesla Model S на большой скорости вылетел с дороги, врезался в дерево и загорелся. Ввиду того, что это электромобиль, на его тушение пожарным понадобилось 4 часа и порядка 120 000 литров воды. Сообщается, что автомобилем управлял автопилот, который на высокой скорости не вписался в поворот. На водительском сиденье никого не было, двое погибших в аварии находились на пассажирских местах: один на переднем, а другой на заднем сиденье.
Только с автомобилями компании Tesla за последние 5 лет произошло шесть ДТП, среди которых столкновение с большегрузами, бетонными разделителями и даже полицейскими авто, стоящими на обочине. Но, несмотря на всю критику автопилота Tesla (и Илона Маска заодно), в большинстве случаев виноваты сами водители, которые упорно игнорируют предупреждения умных систем, играя на смартфонах, а то и вовсе ложась спать на заднем сиденье во время движения машины. Действительно, зачем следить за дорожной обстановкой, — лучше отдохнуть и подвергнуть опасности других участников дорожного движения, чем и прославился тиктокер из США.
Однако и Илон Маск не идеален. Многие тестировщики автопилота компании Tesla жалуются на автоматизированное вождение: необоснованное ускорение, опасные перестроения, а то и вовсе отключение функции. Это же подтверждали и журналисты, разбирающиеся в вопросе, отмечая, что хороший водитель не ведет себя так на дороге. Кроме того, изданию The Wall Street Journal в 2018 году стала известна информация, что инженеры Tesla просили начальство заменить используемое оборудование автопилота на более надежное, но предложение было отклонено самим Илоном Маском ввиду экономической невыгодности.
Опасные роботы не новость
Первым погибшим от «рук» робота стал рабочий компании Ford — в 1979 году сборщик Роберт Уильямс был убит автоматизированной рукой однотонного робота на заводе автопроизводителя во Флэт-Роке, штат Мичиган. Во время производственного процесса рука тележки, предназначенная для снятия или складирования отливных деталей автомобилей, ударила Роберта по голове, в результате чего он скончался. Последующий суд признал вину компании в необеспечении безопасных условий труда, обязав Ford выплатить 10 млн долларов семье погибшего.
Роботизированная хирургия, задачей которой является выполнения операций в удаленном режиме, также забрала немало жизней из-за технической несовершенности. За 5 лет удаленной хирургической практики (2008−2013 гг.) случилось минимум 144 смерти пациентов ввиду потери видеопотока в неподходящее время.
Опасны ли роботы на самом деле?
Во всех случаях, связанных с исходящей угрозой со стороны автоматизированных и умных устройств, виноват в первую очередь человек. В одних случаях он позволяет роботам действовать автономно, в других полагается на технологии, хотя те еще не блещут совершенностью. Поэтому рассказы о том, что роботы и искусственный интеллект со временем захватят, а после и истребят человечество, не более чем сюжет для фантастических фильмов. Как минимум, потому, что автономные устройства не обладают сверхпродвинутым ИИ, да потребность механизмов в автономном бесперебойном питании еще никто не отменял.
Матрица окружает нас. Смогут ли роботы нанести вред человечеству
Восстание армады роботов, вышедших из-под контроля, суперкомпьютер, который решил взять на себя ответственность за человечество, — типичный сюжет множества фантастических фильмов. Такого развития событий, но уже в реальном будущем, пытаются избежать страны по всему миру. Для этого власти и технологические компании принимают кодексы и законопроекты, которые подстилают соломку в сфере искусственного интеллекта. Эти документы регулируют этику ИИ, пытаются нивелировать вред, который умные машины потенциально могут нанести человечеству.
«Секрет фирмы» поговорил с разработчиками ИИ и специалистами по кибербезопасности о том, может ли в будущем появиться «Матрица» — реальность, которой будут управлять вышедшие из-под контроля роботы — и какие угрозы несут современные разработки в области искусственного интеллекта.
Законы робототехники XXI века
Страны по всему миру принимают законы и кодексы, регулирующие сферу ИИ. В России подобный документ подписали) в конце октября 2021 года. Его разработали крупнейшие технологические компании («Яндекс», VK, «Ростелеком» и др.) вместе с правительством.
В документе говорится, что человек, его права и свободы при развитии ИИ должны оставаться самой большой ценностью. Технологии не могут использоваться для причинения вреда людям, имуществу или окружающей среде. Ответственность за возможный ущерб несёт разработчик, а не машина. Представители бизнес-сообщества, науки и госорганов будут разрабатывать методические рекомендации и выбирать лучшие и худшие практики решения возникающих этических вопросов в жизненном цикле искусственного интеллекта.
Как рассказал «Секрету фирмы» гендиректор некоммерческой организации «ПравоРоботов» Никита Куликов, российская вариация этического кодекса явно имеет заимствования из европейского законодательства. На уровне Евросоюза такой документ приняли в 2019 году. Европейская комиссия разработала семь требований к роботам. Прежде всего европейцев беспокоила возможность контроля роботов со стороны человека.
Также в ЕС призвали аккуратнее относиться к конфиденциальности данных. Не забыли даже про экологическую ответственность роботов — зелёная тема в Европе сейчас в тренде.
По словам Куликова, этический кодекс ЕС сегодня считается самым продвинутым правовым актом в этой области. «У европейцев здесь есть некоторое первенство, разработчики всех аналогичных документов из других стран оглядывались именно на кодекс ЕС», — объяснил эксперт.
Другие части света тоже не отстают. Минобороны США в 2020 году пошло по пятам европейцев, разработав и одобрив похожие этические нормы. С одним небольшим нюансом: они касались использования роботов на войне. В них входят пять принципов.
Кодекс этических принципов для роботов в 2021 году представил и Китай. В нём особое внимание уделяется контролю человека над робототехникой. В документе говорится, что роботы должны повышать благосостояние людей, их нельзя использовать в криминале. Кроме того, подчеркивается, что роботы не должны вмешиваться в частную жизнь.
Матрица из будущего
Все принятые этические кодексы исходят из того, что ИИ способен нести угрозы человеку. Именно для их предотвращения эти документы и разрабатывались.
Философы и футурологи на протяжении не одного десятка лет ставили эту проблему в центре своих хитросплетённых теорий. Угрозы от роботов рисовались с каждым десятилетием всё более и более фантастическими. Роботов часто изображали враждебными захватчиками, способными поработить мир.
Гендиректор IT-компании «Наносемантика» Станислав Ашманов выделяет три угрозы, связанные с развитием искусственного интеллекта.
По его словам, также негативные сценарии могут быть связаны с развитием нейросетей.
Иногда нейросети уже сегодня выходят из-под контроля. Так, голосовой помощник Олег из Тинькофф-банка в 2019 году предложил клиентке отрезать пальцы. Женщина написала чат-боту, что система входа по отпечатку пальца в приложение не работает, — и получила такой неожиданный ответ.
«Также нейросети могут ошибаться при принятии решения о выдаче кредитов. Например, на заявку о получении кредита в одном из банков за 60 секунд можно получить необоснованный автоматический отказ, с объяснением: “Искусственный интеллект принял такое решение на основе больших данных”», — отметил Ашманов.
Кроме того, эксперт обратил внимание и на угрозы от дипфейков. «Голос человека и изображение и раньше можно было синтезировать, но это было дорого и долго, делалось под заказ на голливудских студиях. Сейчас же эта технология стала массовой, дешёвой, доступной. Это опасно, так как мошенники могут начать использовать её, создавая фейковые ролики с участием человека. Они могут оказывать давление на жертву, пытаться с помощью них обойти защиту банков, обманывать людей с помощью социальной инженерии», — заключил эксперт.
Большую угрозу несёт и возможность взлома робота, считает эксперт по информационной безопасности компании Cisco Systems Алексей Лукацкий.
«Против систем искусственного интеллекта хакеры используют не такие методы атак, как против серверов компаний. Последние можно просто положить. Серверы, связанные с ИИ, тоже можно, но с ними часто делают и более нестандартные вещи. Например, совершают атаки на модели обучения. Это приводит к тому, что искусственный интеллект начинает принимать неверные решения на тех же самых исходных данных, что и раньше. Можно, наоборот, подменять данные или подмешивать в них фальшивые — искусственный интеллект будет тогда делать некорректные выводы», — объяснил эксперт.
Он добавил, что также хакеры способны совершать атаку на саму инфраструктуру, обеспечивающую работу ИИ. Это можно делать, например, с помощью шифровальщиков. Ещё одна мишень для хакеров — автопилоты, например, беспилотных машин. Если для них перекрывать какие-то элементы знаков, то они будут принимать неверные решения.
В будущем проблема хакерских атак на искусственный интеллект войдёт в тройку-пятёрку самых серьёзных проблем компьютерного мира, утверждает Лукацкий.
masterok
masterokМастерок.жж.рф
Хочу все знать
Все чаще и чаще люди начинают обращать внимание на то, что роботы вырвались за пределы фантастических фильмов и стали частью реального мира. Да, они сейчас не имеют самостоятельности и пока что наращивают физические возможности и тренируют интеллект по заданию человека. Но удастся ли нам сохранить контроль над ними, когда человек захочет дать им волю? Как зачем! Затем, чтобы якобы упростить себе еще по максиму жизнь ну и ради познания нового и простого любопытства.
Вот почему стоит бояться роботов.
1. Роботы гораздо быстрее нас.
Самый быстрый человек — ямайский легкоатлет Усейн Болт — имеет 8 золотых олимпийских медалей. Но даже ему не удастся перегнать четвероногого робота Cheetah, разработанного компанией Boston Dynamics.
2. Они легко обманывают нас.
3. Они работают в команде.
Ученые из университетов Сассекса и Шеффилда создают нейронную модель для летающих дронов, опираясь на структуру мозга пчелы. По словам доктора Джеймса Маршалла, «простые организмы, такие как социальные насекомые, имеют удивительно развитые познавательные способности» и «они доступнее для исследований, чем мозг позвоночных животных». Если эта новость вас не напугала, задумайтесь: на что в перспективе способны дроны, которые ориентируются в пространстве и работают в команде как «единое целое»?
4. Они могут ходить по воде.
Китайские инженеры создали робота-водомерку, способного не только передвигаться по воде, но и совершать внушительные прыжки. Разработчики нанесли на конечности робота пористую никелевую пену, которая обладает водоотталкивающими свойствами. Водомерка весит 11 грамм и прыгает на высоту 14 сантиметров в высоту.
5. Они гораздо менее уязвимы, чем мы.
Перед вами робот-дождевой червь, созданный инженерами из Массачусетского технологического института. На видео исследователи демонстрируют нам, насколько устойчив этот робот: его нельзя перевернуть или сбить с ног, ведь конечностей попросту нет. Еще рано утверждать, что роботы стали полностью неуязвимыми. Но инженеры работают в этом направлении.
6. Как только робот осознает себя как личность, он подвергнет сомнению господствующее положение человека. Исследователи Йельского университета активно работают над этим. Ученые уже представили общественности робота Нико, который понимал, что его левая рука в отражении на самом деле правая. Ждем продолжения.
7. Восстание роботов больше не считается фантастикой:
Кембриджский университет допускает вероятность войны между человеком и машиной. Центр по изучению экзистенциальных рисков рассматривает сценарий, в котором машины обретут разум и самостоятельность. Естественно, интересы роботов вряд ли совпадут с интересами людей. Будем надеяться, что ученым удастся спасти человечество.
Posts from This Journal by “Роботы” Tag
Британские инженеры представили робота с «жестами и мимикой человека» — это восхитило и напугало людей в сети. «Самый…
В США создали «дрон на курьих ножках» — птичьи роболапы позволяют ему садиться на ветки и хватать предметы. С помощью такого…
Помните о четвероногом роботе Spot от известной компании Boston Dynamics? Насколько я помню Boston Dynamics изначально и категорически заявляла,…
Информация об этом журнале
Дело не в ИИ и его мощности.
А тенденции следующие:
3. В вопросах «защиты от дурака» роботы НЕИЗБЕЖНО получают и будут получать все большую автономию. Внедряясь в среду, требующую сложного адаптивного поведения, системы сами определяют критичные звенья, куда вмешательство недопустимо. Например, в режиме штатного полета отключить автопилот можно банальным тумблером. Но в критическом режиме автопилот сделать этого уже не позволит. И это реализовано уже сегодня. А завтра сфера самоконтроля ИИ станет для человека также лишь статистически предсказуемой. Т.е. некий «главный тумблер» (о котором любят рассуждать скептики), находящийся в руках Человека, уже сегодня становится некой условностью.
В результате одновременного продолжительного действия всех пяти НЕОТВРАТИМЫХ тенденций со 100% вероятностью вытекает, что в отдаленной перспективе человечество будет восприниматься Разумом лишь в качестве давно пройденной «биологической стадии эволюции». И уже сегодня человечество ничего с этим поделать не может. Не может принципиально, теоретически, закономерно.
Edited at 2018-03-13 03:13 pm (UTC)
А робот-пылесос это самое близкое соответствия реальности тем выдумкам, которые вы проанализировали.