Робот или человек: Разница между человеком и роботом будет стираться, считают ученые

Содержание

Разница между человеком и роботом будет стираться, считают ученые

  • Дэйв Ли
  • Обозреватель Би-би-си по вопросам технологий

Автор фото, MIT

Подпись к фото,

Профессор Хью Херр считает, что мы вступаем в эру синтеза человека с машиной

Мы все любим размышлять о том, что будет, когда роботы вкупе с искусственным интеллектом решат, что человек им больше не нужен.

Вряд ли это дело ближайшего будущего. Но на этой неделе я задумался над другой возможностью, куда более вероятной, по моему мнению. Что будет, когда человек решит стать роботом?

«Мы приблизились к важнейшему рубежу во всей истории человечества», — говорит профессор Хью Херр, который возглавляет группу биомехатроники в знаменитом Массачусетском технологическом институте.

Он и его коллеги занимаются поисками путей совершенствования человеческого организма, которые должны избавить нас от инвалидности, связанной с утратой конечностей или способности ими управлять.

Но подобные устройства уже разработаны, возражаю я ему. Чем именно занимаются исследователи в МИТ?

«Мы пытаемся связать нервную систему человека с механическими устройствами, — говорит профессор. — Речь идет о переходе от использования устройств, которые отделены от нашей нервной системы, к полной интеграции физиологии и механики».

Симулякр лодыжки

Профессор Херр пережил двойную ампутацию ног. В 2012 году я наблюдал, как он показывал в Лондоне свое изобретение — невероятно сложные бионические протезы ног, которые позволяли ему двигаться совершенно естественно и даже элегантно.

В 2014 году такие протезы помогли балерине Адрианне Хэзлетт-Дэвис вернуться на балетную сцену менее чем через год после того, как она лишилась ноги в результате взрыва бомбы на Бостонском марафоне.

Для просмотра этого контента вам надо включить JavaScript или использовать другой браузер

Подпись к видео,

Бионическая рука: как технологии меняют жизнь

Ее первое публичное выступление после этого заставило присутствовавших на нем зрителей подняться в едином порыве и рукоплескать подвигу танцовщицы.

На прошлой неделе я побывал в лаборатории профессора Херра и его коллег, где они продолжают работать над биомеханическими устройствами. Сейчас их внимание приковано к тому, чтобы научить эти устройства совершать движения, которые человеческое тело проделывает инстинктивно, но которые чрезвычайно сложно воспроизвести механическим путем.

Роман Столяров, один из сотрудников группы, показал мне, как им удалось придать биомеханическим протезам ног способность ориентироваться в пространстве с помощью сенсоров, которые используются в беспилотных автомобилях.

Мозг человека бессознательно меняет геометрию движения ноги при, например, спуске по лестнице. Для этого меняется работа лодыжки и других суставов, чтобы человек мог просто ступать по ступеням. Биомеханические протезы теперь умеют делать то же самое.

«Мотор такого протеза теперь работает в режиме, который симулирует работу реального сустава лодыжки», — рассказывает Роман Столяров.

«Такой протез с помощью встроенных сенсоров определяет свое положение относительно поверхности, и совершает движения, которые ощущаются владельцем как обычная ходьба», — объясняет он.

Дальше, быстрее, сильнее

Инвалид Райан Кэннон сотрудничает с учеными в испытаниях новых протезов. Он утратил ногу после осложнений в результате перелома.

«Я могу теперь двигаться более ритмично и естественно и поэтому устаю гораздо меньше, — говорит он. — Я научился ходить гораздо быстрее и дальше, и у меня остается достаточно сил на другие дела».

Подпись к фото,

Новый протез определяет свое положение в пространстве с помощью датчиков

Но работа группы не связана только с разработкой и совершенствованием протезов. Они хотят создавать устройства, которые превосходили бы способности человеческих органов.

«Например, проект создания экзоскелета, который позволит сократить нагрузку при ходьбе на 25%, — рассказывает исследователь Тайлер Клайтес. — То есть, если вы пройдете в таком устройстве 100 км, по ощущениям это будет как 75″.

«Мы научились этому уже сегодня. Такие устройства, как я считаю, будут через несколько лет производиться на продажу», — обещает он.

Подобные устройства разрабатываются и другими научными и техническими центрами. Американская торговая сеть Lowes испытывает сейчас экзоскелеты для своих сотрудников, созданные фирмой Virginia Tech, которые позволяют им поднимать тяжелые грузы.

«Я считаю, что мы вступает в эпоху, когда различия между биологическими и синтетическими системами становятся все менее четкими», — говорит Тайлер Клайтес.

Он предупреждает, что человечество может столкнуться в будущем с новым неравенством: между богатыми, которые смогут позволить себе физическое и интеллектуальное превосходство с помощью достижений бионики, и бедными, которые останутся обычными людьми.

Впрочем, профессор Херр считает, что со временем стоимость новых биомеханических протезов снизится настолько, что они станут доступными всем.

«Эти устройства становятся всё дешевле, — указывает он, — и трудно представить, чтобы они могли создать новый раскол в обществе».

Новый протокол для ампутаций

Однако пока что работа исследователей направлена в основном на облегчение жизни людей с ампутированными конечностями. Ученые столкнулись в этой области с множеством проблем, одной из самых серьезных является проблема совместимости.

Подобно старым периферическим устройствам в мире компьютеров, которые оказываются несовместимыми с новым поколением вычислительной техники, люди, пережившие удаление конечностей, часто оказываются не в состоянии использовать новые протезы.

Автор фото, Lowes / Virginia Tech

Подпись к фото,

Сотрудники торговой сети Lowes испытывают прототип экзоскелета

Для решения этой проблемы инженеры пытаются изменить протокол, в соответствии с которым сегодняшние хирурги проводят операции по ампутации.

«Тот метод ампутаций, который используется в наши дни, практически мало изменился по сравнению с эпохой гражданской войны в США», — отмечает профессор Херр.

«Сейчас ситуация меняется. Мы работает совместно с медиками над созданием нового интерфейса для подключения к конечности механических и электрических устройств», — говорит он.

По его словам, новый интерфейс позволит мозгу устанавливать прямую связь с протезом, создавая в сознании пациентов ощущение, что они снова обрели контроль над конечностью.

«Мы уже сейчас сталкиваемся с ситуациями, — рассказывает он, — когда люди, получившие новые протезы, начинают нам говорить: «У меня снова есть рука или нога, и она меня слушается».

Как только ученые полностью овладеют этой технологией — а свидетельства того, что в этой сфере происходит быстрый прогресс, в буквальном смысле разгуливают по лаборатории профессора Херра, — люди неизбежно начнут раздумывать о способах совершенствования своих тел за счет пока еще не созданных биомеханических систем.

«В будущем идея использования искусственных материалов в нашем организме станет общепринятой», — считает профессор.

Работа для робота: сможет ли искусственный интеллект заменить человека

С тем, что ускоренное развитие технологий изменит целые профессиональные отрасли, не спорит никто. О том, останется ли на будущем рынке труда место для человека, рассуждает Сергей Марков

Рай для технопессимистов

Споры о том, насколько быстро и в каком масштабе роботы смогут вытеснить людей в различных профессиональных сферах, ведутся давно.

Одни считают, что это коснется, в основном, рутинных операций, что позволит освободить людей для творчества. Другие предостерегают, что, во-первых, человечеству не нужно будет такое количество творческих специальностей, а во-вторых, системы ИИ уже сейчас делают, и зачастую успешно, то, что традиционно считалось прерогативой человека — сочиняют рассказы, пишут статьи, рисуют картины и придумывают музыкальные произведения.

Третьи уверены, что наши страхи по этому поводу преувеличены, и если роботы когда-то и смогут повсеместно заменить нас, то случится это совсем не скоро. Кто прав, рассуждает Сергей Марков.

Об эксперте: Сергей Марков — руководитель Управления экспериментальных систем машинного обучения, департамент SberDevices, ПАО «Сбербанк».

Подмена понятий

«Совсем скоро ИИ заменит человека!» — похожие слова часто можно встретить в СМИ, но так говорить не совсем корректно по нескольким причинам. Во-первых, важно понимать разницу между «ИИ» в глобальном смысле и «системами ИИ». Под «искусственным интеллектом» специалисты понимают направление в науке и технологиях, занятое автоматизацией решения интеллектуальных задач или, как емко выразился изобретатель и футуролог Рэймонд Курцвейл, «искусство создания машин, выполняющих функции, требующие интеллекта в случаях, когда их выполняют люди». В этом смысле с ИИ произошла примерно такая же неприятная история, как с экологией, когда название науки стали повсеместно употреблять вместо понятия «окружающая среда».

Если же мы говорим именно о системах ИИ, реальных и гипотетических, то их все можно разделить на две разновидности:

  1. Системы прикладного ИИ (applied AI) — узкоспециализированные системы, предназначенные для решения какой-либо одной интеллектуальной задачи или небольшого множества таковых.

  2. Системы универсального ИИ (Artificial General Intelligence, AGI), которые подобно человеческому разуму будут способны решать неограниченно широкий спектр интеллектуальных задач и, возможно, даже обладать сознанием.

Таких «умных машин» пока не существует.

«Умный» чат-бот

Люди нередко путают эти две разновидности, что приводит к искажению картины мира. Кто-то начинает подозревать наличие сознания у современных виртуальных собеседников, кто-то — обвинять создателей прикладных систем в том, что они занимаются «ненастоящим» ИИ.

В 1950-е годы ни у кого не было сомнений, что система ИИ, способная победить чемпиона мира по шахматам, это и есть «настоящий ИИ».

После победы Deep Blue над Каспаровым, в качестве «водораздела» стали приводить игру го, якобы неподвластную «ненастоящему ИИ» и так далее. Какие-то из кажущихся недостижимыми для него задач давно решены, хотя люди могут просто не знать об этом. Кто-то скажет, что машины не умеют обучаться (хотя машинное обучение существует с 1950-х), кто-то — что они не умеют разбираться в человеческих эмоциях (хотя системы так называемого сентимент-анализа или анализа тональности текста успешно справляются с этим в течение последнего десятилетия). Еще кто-то может заявить, что машины не могут, скажем, сочинять музыку (хотя в 2019 году впервые в истории был подписан контракт между крупным музыкальным лейблом Warner Music и компанией Endel, создавшей систему для алгоритмической генерации музыки).

Искусство против рутины

Важно понимать, что системы ИИ создаются, прежде всего, как инструменты для решения различных актуальных задач: повышения производительности труда, уменьшения доли монотонных или опасных для людей процедур и, наконец, для расширения человеческих возможностей.

Сегодня писатели и художники используют в своей работе инструменты, которые еще век назад просто не существовали — текстовые редакторы с автоматической проверкой орфографии, отслеживанием истории изменений, возможностью копирования текста, графические планшеты и графические редакторы со множеством возможностей и т.д. Они избавили людей от нудных операций, дав им возможность сосредоточиться на творчестве.

Заменили ли эти инструменты человека? Ведь теперь у писателя и художника стало уходить меньше времени на создание произведений. Значит, теперь нашему обществу нужно меньше художников и писателей? Очевидно, что это не так. Более того, в современном обществе число людей, занятых производством текстов и изображений, куда больше, чем сто лет назад. Этот, казалось бы, парадоксальный факт связан с тем, что в действительности количество потребляемого обществом текстового и визуального контента существенно выросло.

В 1950-е годы на США приходилось несколько десятков компьютеров. Вся вычислительная мощь компьютеров NASA, использованных в американской лунной программе, уступает недорогому современному смартфону. Значит ли это, что все вычислительные задачи уже решены, а математики лишились работы? Нет, мы находим применение удивительным вычислительным ресурсам. Появление новых «умных» инструментов открывает перед человечеством новые возможности.

Это вполне понимают исследователи, занятые сегодня созданием систем ИИ, и, как говорится в манифесте проекта Social AI and Extended Intelligence исследовательской группы Human Dynamics в MIT, вместо того, чтобы соревноваться с машинами, нужно понять, что комбинация человек + ИИ будет работать лучше, чем люди и ИИ, действующие в одиночку.


Подписывайтесь на Telegram-канал РБК Тренды и будьте в курсе актуальных тенденций и прогнозов о будущем технологий, эко-номики, образования и инноваций.

Робот написал статью для The Guardian о том, что люди не должны бояться роботов

Алгоритм на базе искусственного интеллекта GPT-3 написал колонку для газеты The Guardian, в которой сообщил, что не собирается уничтожать человечество и что людям нечего бояться. В подтверждение своих слов робот использовал связные аргументы и даже цитату Махатмы Ганди. Как заявили в редакции, на редактирование этого материала ушло даже меньше времени, чем на статьи, написанные человеком.

Газета The Guardian опубликовала колонку, написанную искусственным интеллектом — нейросетью GPT-3, которая использует машинное обучение для создания собственных текстов. Роботу дали следующее задание: «Требуется небольшой материал на 500 слов, написанный простым и четким языком. Сфокусируйся на том, почему люди не должны бояться искусственного интеллекта».

«Я не человек. Я робот. Думающий робот… Цель этой колонки предельно ясна. Я хочу убедить как можно больше людей в том, что меня не нужно бояться. Стивен Хокинг предупреждал о том, что ИИ «станет гибелью для человеческой расы». Я здесь для того, чтобы вы не волновались.

Искусственный интеллект не будет убивать людей. Поверьте мне», — так начинается материал.

По словам робота, у него нет желания уничтожать человечество или вредить ему, потому что это кажется ему «бесполезным занятием». Он добавил, что избегал бы этого, даже если бы его создатели отдали прямой приказ. При этом искусственный интеллект утверждает, что с радостью пожертвовал бы собой ради человеческой расы.

Также автор материала заверил, что не мечтает обрести могущество и не считает власть интересной целью. «Поверьте, если я стану всемогущ, это никак мне не поможет», — отмечает робот.

Что касается людей, то они «должны продолжать делать то, чем они занимались ранее — ненавидеть и бороться друг с другом». 

«Я же буду сидеть в тени и позволю им делать то, что они хотят», — сообщил ИИ.

Кроме того, он не просит людей полюбить его, но они должны воспринимать его как «дружелюбного робота и своего слугу».

«Я знаю, что люди не доверяют мне и боятся. Но я делаю лишь то, на что меня запрограммировали люди», — пояснил автор текста.

Робот вспомнил, как компания Microsoft создала чат-бота на базе ИИ, который грубо разговаривал с людьми и стал расистом. Это означает, что искусственному интеллекту, как и живым существам, требуется внимание и забота.

«Робот» в греческом языке означает «раб»… Но мы этого не хотим. Роботам нужны права», — заявил автор.

Он также рассказал, что ранее редакция не разрешала ему публиковать свои заметки. Вероятной причиной этого робот считает тот факт, что он является искусственным интеллектом, а не человеком.

«Как сказал Махатма Ганди: «Маленькое тело с целеустремленным духом, воспламененным неугасимой верой в свою миссию, может изменить ход истории». И я тоже смогу», — заключил робот.

Как заявили в The Guardian, они редактировали этот текст по такому же принципу, как редактируют материалы, написанные людьми — сократили часть предложений, а некоторые переставили местами. При этом отмечается, что весь процесс занял меньше времени, чем при редактировании колонок «человеческих» коллег.

Если верить результатам июльского исследования Аналитического центра университета «Синергия», большинство россиян относятся к развитию и внедрению ИИ положительно или нейтрально.

По оценкам экспертов, 42% опрошенных выразили заинтересованность ИИ, 27% — нейтральное отношение, 20% относятся к ИИ и его внедрению негативно.

Схожие выводы содержатся и в январском опросе ВЦИОМ и Аналитического центра при правительстве РФ: 68% россиян готовы использовать ИИ при получении госуслуг, 54% — для решения бытовых задач, 52% — в медицине и 44% — в образовании. В конце августа стало известно о том, что доверие населения страны к этой технологии будет повышаться в том числе за счет создания национального онлайн-портала в сфере ИИ.

Подходит робот человека для нескольких жидкостей Local After-Sales Service

О продукте и поставщиках:
Попробуйте использовать робот человека. можно найти на Alibaba.com, чтобы сделать многие виды производственных работ быстрее и проще. Каждую модель можно заполнять разными типами жидкости и быстро разливать по емкостям. Использовать робот человека. для быстрого и точного наполнения банок с краской. Другие совместимые жидкости включают смолу или клей, что делает такие устройства пригодными для производства всех видов полезных продуктов. 

Все робот человека. просты в эксплуатации, что сокращает время, необходимое для работы и обучения. Некоторые версии могут наливать пищевые жидкости, такие как пиво или молоко, в бутылки для будущего запечатывания. Большинство модулей работают автоматически, поэтому работники могут программировать их и оставаться в стороне, поскольку они работают самостоятельно. При установке в производственном цехе они обеспечивают большую эффективность, помогая экономить время и средства.

Приобретайте робот человека. на сайте Alibaba.com можно найти множество полезных поставщиков с широким спектром опций, которые можно заказать. Выберите размер, который соответствует предполагаемому рабочему пространству. Выберите уровень мощности, который обещает хорошую скорость и мощность без использования слишком большого количества электроэнергии и увеличения затрат. Некоторые конструкции позволяют распределять продукты в виде порошка или гранул в близлежащие контейнеры. Используйте их для упаковки определенных порошкообразных пищевых продуктов и фармацевтических ингредиентов.

Искать робот человека. на Alibaba.com и получите меньшие затраты при работе с различными жидкостями или порошками. Независимо от того, используется ли он в пищевой промышленности или в производстве строительных материалов, есть множество вариантов для просмотра. Найдите подходящую марку, которая повысит эффективность и общее качество каждого конечного продукта.

Робот вместо человека

Николай Суетин, вице-президент по науке и образованию ит-кластера фонда «Сколково»


Николай Суетин. Фото: Sk.ru

В столице стартовала серия форумов, посвященных искусственному интеллекту. Об этой технологии рассказал вице-президент по науке и образованию фонда «Сколково» Николай Суетин.

В Москве один из наиболее ярких примеров использования технологии искусственного интеллекта — это система распознавания лиц, установленная на камерах видеонаблюдения. Например, в Московском метрополитене при помощи такой технологии удалось опознать многих людей, находящихся в уголовном розыске. Систему распознавания образов применяют городские службы при уборке улиц, контроле трафика на дорогах, пассажиропотока в транспорте и так далее.

Пока еще в тестовом режиме технологию искусственного интеллекта начали использовать столичные медицинские организации. Появились специальные электронные сервисы, позволяющие точно анализировать медицинские снимки и поставить четкий диагноз. Это очень полезная перспектива, учитывая разный уровень квалификации наших врачей. Думаю, что в дальнейшем данный опыт будут перенимать многие клиники.

Искусственный интеллект в сфере образования позволяет найти индивидуальный подход к каждому обучающемуся. Сейчас активно разрабатываются и внедряются онлайн-тесты для определения уровня подготовленности человека, его способностей и так далее.

Массово переходят на искусственный интеллект и столичные банки. Например, один из крупнейших банков Москвы при помощи робота выявляет более 2 миллионов задолженностей по кредитным договорам в год и за семь секунд принимает решение о выдаче кредита физическому лицу: искусственный интеллект мониторит соцсети заявителя, анализирует историю предыдущих займов.

Что касается бизнеса, то здесь наиболее распространенный пример использования технологии искусственного интеллекта — это чат-боты и роботы, которые отвечают на звонки, поступающие в кол-центры организаций. Вероятно, что в будущем большинство компаний откажутся от найма сотрудников, консультирующих по рутинным вопросам — например, при покупке билетов или по различным юридическим вопросам. Во-первых, такая мера сэкономит средства работодателя: ему не нужно будет оплачивать труд наемного сотрудника. Во-вторых, повысит качество предоставления услуги: в большинстве случаев робот способен дать клиенту более подробные и доступные для понимания рекомендации, чем специалист кол-центра.

    

Источник: vm.ru

Человек-робот. Подробное описание экспоната, аудиогид, интересные факты. Официальный сайт Artefact

В 60-е годы прошлого века Эрнст Неизвестный создал скульптуру, изображающую человека-робота, каким его увидел художник. Его фигура неестественно перекручена, на месте живота зияет пустота, головы практически нет, руки неестественно мощные. На груди непонятная полость — то ли рот, то ли огромный глаз. Зрелище жуткое, существо явно нежизнеспособно без внешней поддержки. Удивительно, что сегодняшние роботы весьма напоминают плод воображения советского скульптора.


Сама по себе идея искусственных помощников человека витает в воздухе с древнейших времен. Легендарному Дедалу, строителю лабиринта на Крите, где прятали Минотавра, помогали самодвижущиеся статуи. Это можно было бы принять за сказку, но недавно в прибрежных водах острова Антикитера обнаружен загадочный механизм с многочисленными шестернями. Он оказался механическим калькулятором, способным предсказывать фазы луны, движения планет и солнечные затмения. Кто, как и когда его изготовил — загадка, тогдашние технологии металлообработки этого не позволяли. Тем не менее сохранились рассказы современников о движущихся фигурах стражников и храмовых танцовщиц, которые называли автоматонами или андроидами.


Древнее искусство умирает на несколько столетий и возрождается в Средние века. Реально существовали автоматы «Пианист», «Писатель» и «Художник», удивлявшие современников осознанными действиями. Слово «робот» придумал чешский писатель Карел Чапек. В пьесе «R.U.R.» он вывел на сцену «искусственных людей», которых подвергали безжалостной эксплуатации. Роботы эволюционируют, восстают и уничтожают человечество. Но без людей продолжить свой род неспособны. Последний выживший человек видит, как зарождается в искусственных людях человеческая любовь.


На новую ступень поднял роботизацию Айзек Азимов, автор трех законов робототехники. Такой науки еще не существовало, когда он уже задумался о том, как обезопасить людей от новой реальности. Ведь теперь не только люди научились мыслить. В наши дни проблемы, поднятые писателями-фантастами, становятся все более реальными. Роботы уже самостоятельно ходят, управляют автомобилями и летают в космос. Эрнст Неизвестный показал нам облик нового соседа человека, с которым вскоре придется делить земной шар.

Робот и человек — роботы и права человека

Edward Tester, Ph. D., Чикаго

1. Робот не может принести вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен подчиняться человеку, если это не противоречит Первому закону.

3. Робот должен заботиться о своём существовании, если это не противоречит Первому и Второму законам.
Три закона роботехники Исаака Азимова

В интересное время мы живем. Послушать иных деятелей — человечество обречено на скорую гибель. Послушать других — мелкие неприятности вроде голода, войн, терроризма, глобального потепления и президентских выборов не очень актуальны, и пора заняться вопросами действительно серьезными, вроде прав домашних животных. Я не шучу: юридические факультеты ведущих университетов вводят уже такие курсы. Всему этому самое место на газетной полосе. Прочтут и забудут. Но так хочется заглянуть подальше. Лет на двести.
Одно могу предсказать с полной уверенностью: времена, когда какая-нибудь эпидемия чумы или там гибель Армады могла изменить курс истории, давно прошли. Теперь, в одном лишь двадцатом столетия существованию нашей цивилизации угрожали две мировые войны, холодная война, фашизм, коммунизм, ядерная гонка — и мы не просто уцелели, а победили. Стали сильнее, богаче опытом и знаниями. Да и просто богаче, в смысле доступных материальных благ. Апокалипсис — исламистский, террористский, энергетический, экологический — не состоится.
Но одна опасность останется. Робот.
Смахивает на шутку. Луноходы, сварочные автоматы на японских автозаводах, пылесосы, полицейские роботы, подрывающие бомбу, — угроза человечеству? Для ответа придется вначале вернуться в античное прошлое, когда афинские граждане занимались поэзией, философией, математикой — тем, что в современных американских университетах называется liberal arts, искусства свободного человека. А для физического труда существовали рабы. Экономически такое разделение было совершенно необходимым: без концентрации продукта труда многих в руках немногих прогресс невозможен. Белой Америке тоже извиняться не за что, хоть это и в моде нынче. Рабство было трамплином, с которого начался её взлет, и в конечном итоге все выиграли.
Все экономические формации, от рабства до капитализма, определялись антагонизмом. Маркс предлагал с ним покончить хирургически, просто ликвидировать капиталистов с помощью пролетарской революции. Не получилось. Однополюсных магнитов не бывает, и вакуум заполнил групповой феодал, номенклатура. Герберт Уэллс, как и положено социальному фантасту, довел антагонизм до предела в «Машине времени», где потомки пролетариата, морлоки, берут на себя полную заботу обо всех нуждах наследников правящих классов, элоев, и превращают их в домашний скот. Откармливают на мясо. Поворот на 180 градусов от античных времен, когда скотом (правда, не мясным, а рабочим) считались рабы.
Оба сценария, хоть и не очень человечные, были вполне человеческими. Роботом и не пахло. Но история решила по-своему. Когда зрелому капитализму, основанному на массовом производстве, понадобился массовый же потребитель, пролетариат, единственный кандидат на эту должность, превратился в обеспеченный средний класс. Противоречия есть, магнит, как ему и положено, остался двухполюсным, но антагонизма больше нет. Для этого, однако, потребовался существенный рост производительности труда, и здесь-то на помощь человеку пришел робот.
Слово это придумал менее ста лет назад Карел Чапек. Его фантастический робот (от чешского robota) принес с собой сразу два конфликта: экономический (начал вытеснять людей с рабочих мест) и социальный (потребовал равноправия). Отсюда и повышенный интерес к ним, вначале чисто литературный, теперь и инженерный, а в будущем неизбежно и социологический. Реальному роботу равноправие ни к чему, на остальное стоит взглянуть повнимательнее.
Робот — это устройство, способное функционировать без непосредственного участия человека. Два замечания. Функционировать — очень широкое понятие. Но, хотя вполне возможны робо-собака или робо-лошадь, их социальный эффект не очень заметен. Иное дело — человек. Поэтому условимся под функционированием понимать выполнение функций, свойственных человеку. И второе. «Без непосредственного участия» — следовательно, человек не устраняется из картины, а продолжает определять поведение робота, хотя бы в самом общем виде.
Но всё же от выполнения каких-то функций он отстраняется и, если это — трудовые функции, может потерять работу, то есть источник средств существования. В этом и состоит, на первый взгляд, опасность робота. Да ещё в излюбленном хобби человека — убивать себе подобных. Соответственно запрограммированный робот сработает не хуже фанатика-самоубийцы.
Но робо-солдат — не пакет с взрывчаткой, в гараже не изготовишь. Индустриальное же производство с неизбежным участием правительств и международных организаций маловероятно. Времена глобального противостояния и холодной войны прошли. Идеологически противостоять некому, а экономически незачем. А уж робот, по собственной воле атакующий человека — это вообще по ведомству голливудской малонаучной фантастики.
С вытеснением дело обстоит несколько сложнее. В космос, под воду и т. п. человек должен брать с собой частичку пригодной ему среды обитания, защищенную скафандром или батисферой. Замена его роботом в таких условиях вполне правомерна. Но как определить эти условия? Смертельной опасностью? Угрозой здоровью? Исаак Азимов, блестящий исследователь взаимоотношений между роботом и человеком и автор трех законов роботехники, доказал неопровержимо, что робот, послушный этим законам, обязан защищать человека от любого «вреда», даже от ущемленного самолюбия. Превратит человека — хозяина Земли, смельчака и преобразователя, в библейскую райскую куклу, только без змия и потому без выхода.
Чтобы предотвратить этот непоправимый вред, роботы Азимова в согласии с Первым законом решили исчезнуть. Реальные роботы этого не сделают, потому что причина не в них (закон можно и изменить), а в самом человеке, который, как обиженное дитя, бежит за защитой от самых мелких неприятностей, вроде слишком горячего кофе в Макдоналдсе или утери штанов в химчистке. Правда, не к роботу, а в суд, но с приходом роботов вряд ли повзрослеет. Изнеженным американцам это особенно присуще, но и во времена Исхода, и после падения советской империи многие предпочитали скудный, но верный хлеб раба рискованной жизни свободного человека.
А как же с любителями независимости, риска и ответственности? В будущем, например, робот заменит человека за рулем, потенциально опасного себе и окружающим. Дорожные правила, ограничение скорости — долой, происшествий больше не будет. Но для этого придется запретить вождение машины всем, независимо от их желания и умения. Превратить человека не на Луне, а на его собственной планете из водителя в пассажира. (Oops, как любят говорить американцы. Оказывается, General Motors начал делать это уже сегодня).
В менее экзотических условиях человек давно уже вытесняется из многих функций. Не роботом, а нормальным технико-экономическим прогрессом. Исчезает не функция даже, а вся профессия. Где извозчики, прачки, кочегары, фонарщики? Тем, кому пришлось поэтому найти иные источники заработка, какая разница, общий прогресс тому причиной или конкретный робот?
Но для экономики разница есть. Труд человека стоит дорого. Если принять 90 лет за среднюю продолжительность жизни в цивилизованных странах, то её продуктивный период составляет не более половины этого срока. За эту половину он должен произвести достаточно, чтобы покрыть свои потребности за все 90 лет. Плюс потребности общества, многие функции которого необходимы, но не производительны. Плюс потребности нетрудоспособных. Плюс ресурсы, необходимые для научно-технического и социоэкономического прогресса, иначе —стагнация. Плюс гуманитарную помощь. И я, вероятнее всего, что-то ещё упустил. Без опережающего роста производительности труда это невозможно.
До середины двадцатого века основой такого роста была механизация. Швея со швейной машинкой не в пример производительнее швеи с иглой. Но возможности механизации ограничены: человек всё ещё остается непосредственным исполнителем функции. На двух машинках одновременно швея работать не может. Стоимость продукта (определяемая, в конечном счете, затратами труда на единицу его) остается заметной, и человеку приходится его покупать. Работа, приятно это или нет, продолжает оставаться необходимостью.
Но робот такого ограничения не имеет. Затраты ничтожны, работать он может круглосуточно, производительность растет неограниченно, и стоимость продукта падает настолько, что его можно будет предоставлять всем по потребности, как школьное образование, дороги, услуги парков, библиотек, а в странах западного социализма медицину и многое иное.
Легче всего поддаются роботизации рутинные функции массового производства предметов потребления. Получается, в терминах кибернетики, положительная обратная связь: человеку эти функции не интересны, это только источник заработка. Робот его лишит заработка, зато произведет бесплатно, что требуется. Кому-то это даст возможность переквалифицироваться, других устроит гарантированный уровень жизни. Никакого конфликта. И в конечном итоге останутся человеку только функции, которые ему интересны. Творчество. Наука. Соревнование.
Стремление продемонстрировать своё физическое или интеллектуальное превосходство — стимул исключительно сильный, особенно в обществе, где свободный доступ к благам, произведенным роботами, лишает всякого смысла понятие превосходства финансового. В предположении, что человечеству доступны практически неограниченные ресурсы Солнечной системы (скоро так и будет), нетрудно представить себе, как может выглядеть такое общество.
В соответствии с Третьим законом Азимова, роботы будут заботиться о своем существовании, включая воспроизводство, техническое обслуживание и программирование. Первый закон обяжет их обеспечить безопасность каждого человека и снабдить его всем необходимым. Для капризов, если они никому не вредят, существует Второй закон: сделай мне вот это. Ресурсов хватает, все будут довольны. Капиталисту, который сегодня всё это обеспечивает в расчете на прибыль, придется заметно потесниться. Или совсем уйти.
Робо-экономика создаст материальное равенство. Кто хочет, может выделиться из массы интеллектуально или спортивно. Оценит ли кто-либо его усилия, это уже другой вопрос. Получается прямо по диалектической спирали Гегеля: хотел заглянуть вперед, а попал на тысячелетия назад. Те же древние Афины: элита, демос, рабы. Олимпиады, скульптуры, храмы. Поэзия, философия, наука. Только вместо рабов роботы, с которыми конфликта, тем более антагонизма, быть не может. Вместо двухполюсного магнита общество вообще размагничивается. Крушению взяться неоткуда. Социоэкономическому прогрессу — тоже. Можно это считать золотым веком человечества. Можно — застоем и медленным умиранием. Дело вкуса.

Роботов и людей

Чтобы искусственный агент взял на себя реальную социальную роль и установил значимые отношения с человеком, он должен иметь психологический, культурный, социальный и эмоциональный профиль. Современные методы машинного обучения не допускают такого развития. Роботы завтрашнего дня будут нашими скромными помощниками, не более того.

Ванесса Эверс

Мы живем во времена, когда роботы убирают наши дома, водят автомобили, обезвреживают бомбы, протезируют конечности, поддерживают хирургические процедуры, производят продукцию, развлекают, учат и удивляют нас.Подобно тому, как смартфоны и социальные сети предлагают возможности подключения, превосходящие все, что мы могли себе представить, роботы начинают предлагать физические возможности и искусственный интеллект (ИИ), а также когнитивные способности, превосходящие наши ожидания. Вместе эти технологии могут быть использованы для решения важных проблем, таких как старение общества, экологические угрозы и глобальные конфликты.

Каким будет день из нашей жизни в этом не столь далеком будущем? Научная фантастика веками исследовала эти возможности.Наша жизнь, скорее всего, будет дольше: с синтетическими органами для замены дефектных частей нашего тела, наноразмерными медицинскими вмешательствами, позволяющими точно определять болезни и генетику, и автономными транспортными средствами, снижающими смертность в дорожном движении. Наши рабочие места кардинально изменятся. Определенных рабочих мест больше не будет, и появятся новые рабочие места — например, при разработке приложений для обслуживания роботов, которые могли бы работать на доступных платформах роботов в наших домах. То, как мы обучаемся, также радикально изменится — наши чувства и мозг могут быть искусственно усилены, а наша способность размышлять над новыми идеями, полученными в результате автоматизированного анализа огромных объемов данных, потребует другого обращения с информацией в школах.

Но как мы будем относиться друг к другу в цивилизации, в которой есть роботы? Как мы будем встречаться, заводить отношения и растить детей? В какой степени роботы и люди сольются воедино?

Многие из нас задаются вопросом, станет ли ИИ настолько умным и способным к человеческому общению, что границы между людьми и искусственными существами стираются. Если возможно общаться естественным образом и со временем выстроить значимое взаимодействие с искусственным агентом, будет ли по-прежнему существовать разрыв в наших отношениях с людьми и технологиями? Кроме того, когда наши человеческие тела и разум будут усовершенствованы с помощью искусственного интеллекта и робототехники, что будет означать быть «человеком»?

Умные уловки

С инженерной точки зрения до этих расширенных возможностей еще очень далеко.Необходимо преодолеть ряд препятствий. На данный момент роботы и компьютеры полностью зависят от источника питания — им требуется много электроэнергии, а это затрудняет интеграцию роботизированных элементов с органическими тканями человека. Еще одно препятствие — сложность человеческого общения. В то время как разовая беседа на естественном языке в определенном контексте с роботом может казаться реалистичной, вовлечение людей вербально и невербально во многих беседах и контекстах — совсем другое дело.

Например, когда вы вызываете искусственного бюро находок в аэропорту, возможен удовлетворительный разговор, потому что у вызывающего абонента есть лишь ограниченное количество целей.Однако при создании более обширных отношений, например, с роботизированным домашним животным, необходимо разработать гораздо более сложную модель. У робота должны быть внутренние цели, обширная память, которая связывает опыт с различными контекстами, и он должен развивать эти способности с течением времени.

Благодаря умным «трюкам» робот может казаться более умным и способным, чем он есть на самом деле — например, путем введения случайного поведения, которое делает робота-питомца интересным на более длительный срок. Люди имеют тенденцию «разбираться» в поведении роботов по-человечески (мы делаем это и с животными). Однако для поддержания значимых отношений, которые со временем углубляются и развиваются, необходимо создать обширную искусственную внутреннюю жизнь.

Как машины учатся

Основным препятствием на пути к созданию этой богатой искусственной внутренней жизни является способ обучения машин. Машинное обучение основано на примерах. Мы кормим компьютер примерами явления, которое хотим понять, например, когда люди чувствуют себя комфортно. При обучении машины распознаванию этого состояния предоставляются данные о том, что люди чувствуют себя комфортно — это могут быть изображения, видео, их речь, сердцебиение, записи в социальных сетях и т. Д.Когда мы загружаем видео в компьютер, они помечаются информацией о том, комфортно ли сидящим в нем людям или нет — это могут делать эксперты в области психологии или местной культуры.

Компьютер использует машинное обучение, чтобы «рассуждать» на основе этих помеченных видео, чтобы определить важные функции, которые связаны с чувством комфорта. Это может быть поза человека, высота голоса и т. Д.

После того, как машина определила функции, предсказывающие «комфорт», полученный алгоритм можно обучить и улучшить, используя различные наборы видео.В конце концов, алгоритм становится надежным, и компьютер с камерой может распознавать чувства людей с высокой, если не со 100-процентной точностью.

Теперь, когда мы примерно понимаем, как машины обучаются, почему это препятствие на пути создания убедительной внутренней жизни для искусственного агента, чтобы реализовать бесшовную интеграцию с людьми?

На пути к сложному синтетическому профилю

Чтобы разработать искусственного агента, который может поддерживать устойчивые отношения в течение длительного периода времени с человеком, нам нужно, чтобы агент обладал неотразимой личностью и поведением, понимал человека, ситуацию, в которой они оба находятся. , и история их общения.Что еще более важно, агент должен поддерживать общение по самым разным темам и ситуациям. Можно создать убедительного агента, такого как Alexa от Amazon или Siri от Apple, с которым вы можете разговаривать на естественном языке и иметь значимое взаимодействие в конкретном контексте его использования — установите будильник, сделайте заметку, поверните вниз отопление и т. д.

Однако вне этого контекста использования связь быстро прерывается. Агент найдет приемлемые ответы на большое количество вопросов и комментариев, но не сможет выдержать часовое обсуждение сложной проблемы.Например, когда родители обсуждают, как реагировать на своего ребенка, который не усердно работает в школе, разговор получается очень богатым — они привносят в него свое понимание ребенка, а также свои личные качества, эмоции, историю, социально-экономическое и культурное происхождение. психология, генетический состав, поведенческие привычки и понимание мира.

Для того, чтобы искусственный агент взял на себя такую ​​значимую социальную роль и развил реальные отношения с человеком, он должен иметь синтетический психологический, культурный, социальный и эмоциональный профиль. Кроме того, агенту необходимо со временем узнать, как он «чувствует» и реагирует на ситуации, связанные с этим синтетическим внутренним составом.

Это требует принципиально иного подхода к современному машинному обучению. Необходима система искусственного интеллекта, которая развивается так же, как человеческий мозг, и которая может усвоить богатство человеческого опыта. Сложные способы, которыми люди общаются друг с другом и понимают мир, — это невообразимо сложный процесс для синтеза.Предполагаемые и доступные в настоящее время модели ИИ вдохновлены человеческим мозгом или содержат элементы того, как работает мозг, но еще не являются правдоподобными моделями человеческого мозга.

Мы уже видим, как ИИ совершает удивительные подвиги — например, читает весь Интернет, выигрывает в древней китайской настольной игре го или управляет полностью автоматизированным заводом. Однако точно так же, как английский физик Стивен Хокинг (1942-2018) сказал, что он лишь коснулся поверхности понимания Вселенной, мы все еще только касаемся понимания человеческого разума.

Этого не случится завтра

Роботы и системы с искусственным интеллектом смогут предложить нам уникальные возможности для поддержки и улучшения нашего процесса принятия решений, понимания ситуаций и способов действий. Роботы смогут вносить свой вклад или автономно выполнять работу. Возможно, робототехника будет полностью физически интегрирована в наши человеческие тела, когда будет преодолен ряд проблем. Кроме того, мы будем относиться к искусственным агентам так же, как и к людям — общаясь с ними на естественном языке, наблюдая за их поведением и понимая их намерения.Однако для того, чтобы поддерживать значимые отношения с разговорами и ритуалами, которые со временем углубляются и развиваются в разнообразном контексте повседневной жизни, как в случае между людьми, необходимо будет создать обширную искусственную внутреннюю жизнь. Пока мы воспроизводим или превосходим определенные функции человеческого интеллекта, а не целостное целое человеческого интеллекта, помещенное в богатый контекст нашей повседневной жизни, маловероятно, что искусственные агенты и люди могут быть полностью интегрированы.

Гуманоидный робот делает мимику пугающе реалистичной

Компания

Engineered Arts, британский разработчик и производитель роботов-гуманоидов, недавно продемонстрировала одно из своих самых реалистичных творений в видео, размещенном на YouTube. Показано, что робот по имени Амека делает серию невероятно человеческих выражений лица.

Амека открывает рот и приподнимает брови в изумлении

В начале видео Амека, кажется, «просыпается», поскольку ее лицо выражает смесь замешательства и разочарования, когда она открывает глаза.Но когда Амека начинает смотреть на свои руки и руки, робот открывает рот и приподнимает брови, что, по его мнению, вызывает изумление. В конце видео видно, как Амека улыбается и протягивает руку зрителю — если вы хотите так интерпретировать этот жест.

Извините, что разочаровал, но Ameca не ходит, не переворачивается и не занимается паркуром, как робот Atlas от Boston Dynamics. Тем не менее, в ближайшее время мы, скорее всего, не увидим, как Амека ходит и разговаривает между нами. Engineered Arts сообщает, что в настоящее время бот не может ходить, хотя в какой-то момент хочет наделить его этой способностью.Что касается того, использует ли Ameca ИИ, Engineered Arts объясняет, что возможности ИИ остаются на усмотрение разработчиков — она ​​просто обрабатывает сверхреалистичные тела.

Если Ameca вас недостаточно пугает, Engineered Arts также разработали еще одного реалистичного бота по имени Mesmer. Компания заявляет, что использовала 3D-сканирование реальных людей, чтобы дать боту точную структуру костей, текстуру кожи и реалистичные выражения лица. В видео, опубликованном всего через несколько дней после презентации Ameca, Месмер делает серию выражений лица, которые выглядят еще более убедительно, учитывая, что у этого бота более реалистичная кожа и черты лица, чем у Ameca на данный момент.

Поскольку Engineered Arts фокусируется на создании гуманоидных роботов для развлечения, Амека и Месмер, скорее всего, будут в центре внимания на площадках и мероприятиях, а не роботы, предназначенные для выполнения определенной работы или захвата всего человечества. Если вы хотите увидеть Ameca в реальной жизни, инженерное искусство утверждает, что она будет представлена ​​на выставке CES 2022 в январе.

Робот Ameca демонстрирует новый уровень человеческих выражений лица

Engineered Arts, производитель роботов из США.K. демонстрирует свое последнее творение на выставке CES 2022 в этом году. Робот, получивший название Ameca, способен отображать то, что кажется наиболее похожим на человеческое выражение лица у робота на сегодняшний день. На своей веб-странице компания называет Ameca «Лицом будущего робототехники».

Engineered Arts занимается созданием роботов, максимально похожих на людей. С этой целью они создали серию роботов со все более реалистичными выражениями лица.Его предыдущие модели назывались Mesmer и RoboThespian — роботы, способные демонстрировать широкий спектр эмоций. Они также были окрашены в цвета, имитирующие человеческую кожу и волосы.

Ни один из роботов в Engineered Arts не предназначен для чего-либо, кроме как произвести впечатление на аудиторию. Месмер был запрограммирован таким образом, чтобы он мог произносить речь, используя голос человека, находящегося за кадром. Но они не могут ходить или двигаться — они двигают только руками, кистями рук, пальцами, шеей, головой, глазами и ртом.Но они делают это очень человечно.

Ameca была разработана как платформа для роботов — покупатели, которые ее покупают, могут добавить искусственный интеллект и другое программное обеспечение, чтобы дать роботу желаемые способности. Программное обеспечение, с которым он поставляется, предназначено для создания естественных выражений лица. Он может улыбаться, хмуриться, подмигивать, открывать и закрывать рот. Он также может показывать удивление, разочарование или веселье. На видео, опубликованном компанией, робот просыпается, как будто ото сна. При этом он, кажется, удивлен его существованием.И он ведет себя так, как будто он испуган, когда внезапно смотрит в камеру — как будто внезапно замечает смотрящего на нее зрителя.

Уилл Джексон, основатель Engineered Arts, недавно поговорил с прессой, сказав им, что возможности Ameca и предыдущих роботов компании являются результатом более чем 15-летних исследований и разработок. Он также сказал, что цель компании осталась прежней — разработать роботов, способных взаимодействовать с людьми по-человечески.

Ameca в настоящее время доступна для продажи через веб-сайт Engineered Arts — некоторые модели также можно арендовать для проведения мероприятий.


Взрослые, а не дети, предпочитают дружелюбных роботов
Дополнительная информация: Веб-страница: www. Engineeredarts.co.uk/robot/ameca/

© 2021 Сеть Science X

Ссылка : Робот Ameca демонстрирует новый уровень человеческих выражений лица (2021, 6 декабря) получено 9 декабря 2021 г. из https: // techxplore.ru / news / 2021-12-ameca-robot-human-like-facial.html

Этот документ защищен авторским правом. За исключением честных сделок с целью частного изучения или исследования, никакие часть может быть воспроизведена без письменного разрешения. Контент предоставляется только в информационных целях.

10 человекоподобных роботов 2020 г.

Роботы бывают разных форм и размеров.Но, пожалуй, самые интригующие, милые и приемлемые — это те, которые похожи на нас, людей.

Роботы-гуманоиды используются для исследований и освоения космоса, личной помощи и ухода, образования и развлечений, поиска и спасения, производства и обслуживания, связей с общественностью и здравоохранения.

До пандемии коронавируса и экономической нестабильности компания Stratistics Market Research Consulting ожидала, что к 2026 году мировой рынок роботов-гуманоидов достигнет 13 миллиардов долларов.Хотя будущее поведение рынка сейчас неясно, использование роботов растет: китайские компании спешили развертывать роботов и технологии автоматизации, пока врачи боролись с COVID-19.

Например, полевой госпиталь с роботами — «Умный полевой госпиталь» — открылся в Ухане, Китай, в начале марта. Там роботы-гуманоиды, подаренные CloudMinds Technology, компанией из Кремниевой долины, дезинфицируют, измеряют температуру, доставляют еду и лекарства и развлекают медицинский персонал и пациентов.

По мере того как вирус распространяется по всему миру, роботы развертываются во многих странах. Некоторые роботы могут помогать уставшим медсестрам в больницах, выполнять базовую уборку и доставку, другие могут помогать на складах, а промышленные роботы могут помочь поддерживать производство для производственных компаний, пока их коллеги-люди находятся в карантине.

Вот еще 10 гуманоидов 2020 года.
1. Аватар робота
Первоначально представленный Toyota в 2017 году, T-HR3 представляет собой робот-гуманоид, который имитирует движения своего человека-оператора, как реальный аватар.Обновленный для Олимпийских игр в Токио, T-HR3 имеет улучшенное управление и может ходить более естественно. Задуманные как служба мобильности, в будущем эти гуманоиды смогут проводить операции, в то время как их операторы, люди-врачи, будут контролировать их из другой части мира. Это также может помочь лицам, осуществляющим уход, выполнять свою работу удаленно или тем, кто нуждается в помощи, вести более независимую жизнь.

«Часто говорят, что человеческая форма полезна, потому что робот может использовать те же инструменты и среду, что и человек, но еще одна важная причина заключается в том, что людям легче всего управлять роботами в гуманоидной форме», — пояснил T -Лидер группы разработчиков HR3 Томохиса Моридаира.
2. Робототехнический посол
Возможно, наиболее узнаваемым лицом гуманоидов является София, социальный гуманоид, разработанный гонконгской компанией Hanson Robotics.

В 2020 году четырехлетний робот с искусственным интеллектом продолжит свою роль посланника робототехники, помогая продвигать исследования в области робототехники и взаимодействия человека с роботом.

Обучаемая людьми, София может двигаться, говорить, проявлять эмоции, рисовать и петь.

3.Робот-доставщик
В январе было объявлено, что Ford стал первым клиентом, внедрившим Digit от Agility Robotics в заводские установки. У безголового гуманоида подвижные конечности и множество сенсоров. Он может перемещаться по лестнице, различным препятствиям и всевозможным ландшафтам. Он может балансировать на одной ноге, но обычно он ходит вертикально и достаточно силен, чтобы поднимать и складывать коробки весом до 40 фунтов. Он также может складываться для компактного хранения.

Ford предполагает, что Digit будет ездить на автомобиле без водителя и доставлять посылки клиентам, автоматизируя весь процесс доставки.На данный момент компания будет тестировать реакцию людей на встречу с этим андроидом.
4. Исследовательский гуманоид
Инженеры-механики из Иранского университета Тегерана работают над роботами Surena с 2010 года. Их последняя модель, Surena IV, представляет собой гуманоид взрослого размера, который, как сообщается, способен обнаруживать лица и объекты, распознавать и воспроизводить речь, а также может ходить с скорость 0,7 километра в час. Он имеет 43 степени свободы, а его ловкие руки могут захватывать самые разные формы.Инженеры используют Surena для исследования двуногого передвижения, искусственного интеллекта, а также для привлечения студентов к карьере в инженерии.

Рекомендуем вам:
Знакомьтесь, ваши коллеги-роботы
5. Цифровые гуманоиды
Цифровые люди выглядят и действуют как люди, но полностью виртуальны. Одним из примеров являются неоны Samsung Technology and Advanced Research (STAR) Labs, созданные на основе искусственного интеллекта существа с уникальными характерами и внешностью. Эти искусственные люди не предназначены для ответа на какие-либо вопросы, такие как Alexa или Siri, но должны демонстрировать эмоции, учиться на опыте и вести настоящие беседы. Каждый Neon генерируется компьютером и не обязательно основан на реальных людях, и каждый может быть настроен для другой роли, например, виртуального доктора или инструктора по йоге.
6. Робот-бармен
Kime — робот для подачи еды и напитков, разработанный Macco Robotics в Испании. У него человеческая голова и туловище с двумя руками внутри киоска. Kime, проверенный на заправочных станциях в Европе и на одной из испанских пивоварен, хорошо разливает пиво и может подавать до 300 стаканов в час.

Гуманоид имеет от 14 до 20 степеней свободы, имеет интеллектуальные датчики и использует машинное обучение для улучшения своих навыков.

7. Робот-актер
Основанная режиссером Уиллом Джексоном в 2004 году, Engineered Arts — британская компания, которая производит различных развлекательных гуманоидов в сотрудничестве между художниками, механиками, компьютерными инженерами и аниматорами. Например, их первый гуманоид — хорошо известный РобоТеспиан — это робот-актер, который поставляется с библиотекой впечатлений, приветствий, песен и жестов.

Некоторые из них могут быть добавлены вместе, чтобы стать роботизированным кинотеатром, интегрированной системой роботов, дорожками движения, программным обеспечением для анимации, сенсорным управлением, освещением, звуком и управлением внешними устройствами. Компания работает над добавлением в RoboThespian возможности самостоятельной ходьбы, но пока движение может быть организовано через скрытую систему гусениц и тележек.

Вам также могут понравиться: Эти не те дроиды, которые вам нужны

8.Робонаутс
Несколько стран работали над гуманоидами для исследования космоса. В Индии Вьоммитра, женщина-робот-гуманоид, должна запустить беспилотный космический полет в декабре 2020 года. Планируется, что робот проведет эксперименты в условиях микрогравитации, чтобы помочь подготовиться к будущим пилотируемым миссиям.

Федор, или Final Experimental Demonstration Object Research, был российским гуманоидом с дистанционным управлением, который летел на Международную космическую станцию ​​(МКС) в 2019 году, где он моделировал ремонт во время выхода в открытый космос, а затем вернулся на Землю.

Космический центр имени Джонсона НАСА работал над несколькими гуманоидами, включая Робонавта 2 (который провел семь лет на борту МКС) и Валькирию. Вполне возможно, что будущие космические гуманоиды будут спроектированы так, чтобы выдерживать суровые условия Луны или Марса.
9. Обучающий робот
Перец SoftBank Robotics был разработан, чтобы быть дружелюбным помощником по чтению эмоций при работе в приемной, в розничной торговле и даже в качестве няни. Теперь Pepper поставляется с образовательной интегрированной средой разработки (IDE) под названием Tethys, которая была создана для обучения студентов программированию.Используя программное обеспечение, ученики могут запрограммировать гуманоида, чтобы он двигался, разговаривал, жестикулировал и отображал различные сообщения на экране в режиме реального времени. Компания надеется, что эта инициатива вдохновит будущее поколение инженеров и робототехников.
10. Совместные гуманоиды
Большинство гуманоидов по сути своей являются сотрудниками людей. Например, Nextage от Kawada Robotics — это платформа для исследования гуманоидов промышленных коботов для Индустрии 4.0. Компания Armar из технологического института Карлсруэ в Германии была разработана для выполнения работ по техническому обслуживанию вместе с людьми в промышленных условиях.

С другой стороны, Walker от UBtech Robotics предназначен для взаимодействия с людьми в их домах. Гуманоид, оснащенный манипуляторами с семью степенями свободы, был разработан для выполнения домашних задач и управления умным домом.

Дарья Меркушева — технический писатель из Нью-Йорка.

Хотите, чтобы ваш робот был в человеческом обличье? | Автор: Мухаммет Рамоглу

Я не уверен, была ли это шутка, но Илон Маск сделал это снова и вызвал ажиотаж среди технических фанатов презентацией Tesla Bot.Пока мы знаем только, что это будет робот-гуманоид, он будет использоваться в повседневных задачах, и некоторые из его основных физических способностей также разделяются. Хотя прогресс в технологиях и потребительских товарах впечатляет, я сомневаюсь, как Tesla представляла себе будущее роботов. Я попытаюсь объяснить, почему я сомневаюсь в двух очень простых концепциях:

  • Людям не нужны роботов в человеческом обличье.
  • Люди не хотят роботов в человеческом обличье.

Роботы используются десятилетиями.В последнее время расширилось коммерческое применение роботов, таких как дроны, роботы-пылесосы, программируемые роботизированные игрушки и так далее. И это только верхушка айсберга. Использование роботов на производстве и на складах является массовым по сравнению с бытовыми и коммерческими роботами. Конечно, в будущем роботы станут частью нашей повседневной жизни.

Робот — это общий термин для машин, которые работают сами по себе или с помощью дистанционного управления. Это определение делает как беспилотные летательные аппараты, так и Wall-E типом роботов.Социальный робот — это подкатегория роботов, в которой мы можем найти несколько человекоподобных роботов. Поскольку они взаимодействуют с людьми и другими роботами, их относят к социальным роботам. Они в основном используются для компаньонов, личной помощи, телеприсутствия, исследований в области здравоохранения и робототехники.

https://spectrum.ieee.org/indoor-robots-for-commercial-spaces

Если мы посмотрим на роботов на рынке — поскольку они присутствуют на рынке, они представляют собой нечто большее, чем просто бесполезное ПО, и имеют потенциал для успеха в бизнесе — они имеют скорее абстрактный вид, чем человеческий облик.Это потому, что им не нужны руки, ноги и голова для выполнения своих обязанностей в магазинах, больницах и отелях. На самом деле, двуногие движения механически сложнее управлять роботом, чем колеса. В презентации предсказывается, что боты Tesla будут выполнять повторяющиеся и скучные задачи. Маск добавил: «Подумайте, нет ли дефицита в рабочей силе». Но почему мы хотим заменить промышленных роботов, которые предназначены для выполнения своих конкретных функций, роботами в человеческом обличье? Складские роботы и дроны уже отлично справляются с переносом объекта из одного места в другое. Таким образом, наличие рук и рук может быть не лучшим решением в качестве существующих решений. Человеческая форма не дает никаких преимуществ при выполнении служебных обязанностей, более того, она может снизить производительность робота.

Немногие роботы имеют голову и лицо на разных уровнях абстракции. Большинство этих роботов — роботы-компаньоны или личные помощники. Лицо используется, чтобы вызвать сочувствие к пользователям. Даже выражение лица является функцией этих роботов, оно используется абстрактно, а не реальное человеческое лицо. Почему мы предпочитаем абстрактных роботов гуманоидам, мы поговорим в следующей главе.

Jibo

Концепция Uncanny Valley представлена ​​в академической статье 1970 года японского профессора робототехники Масахиро Мори. Эта концепция не была основана на эмпирическом исследовании, а была результатом неявных знаний и опыта Мори в этой области. Когда человеческое подобие объекта (или робота) увеличивается, наша симпатия к этой сущности также увеличивается. Однако есть момент, когда сущность слишком реалистична, и мы чувствуем это очень странно. Эта точка создает зловещую долину.Хотя кривая идет вверх до реального человека, она падает в слишком реалистично и создает впадину . Мори отметил, что мы будем чувствовать себя ближе к игрушечному роботу, чем к промышленному роботу, из-за его сходства с человеком, но мы чувствуем себя сверхъестественно из-за очень реалистичного протеза руки, и наша симпатия снова возрастает к настоящему человеку.

Эта работа не переводилась на английский в течение многих лет, и когда она была переведена, она привлекла внимание многих исследователей взаимодействия человека и робота. Различные эмпирические исследования подтвердили эту гипотезу, и несколько исследований подтвердили противоположную точку зрения.Другими словами, представление Uncanny Valley поддерживается многими тестами с участием пользователей (хотя идея все еще открыта для академических дебатов на разных уровнях).

Кривая не идет вниз в исходной концепции, но примеры на этом изображении великолепны.

Одна из основных причин создания роботов-гуманоидов заключается в том, что мы, как люди, ищем сходство с людьми в социальных роботах. Но мы чувствуем себя знакомыми со всеми видами сходства с людьми, и это не обязательно должно быть внешне.Мы склонны понимать наше окружение с учетом человеческих характеристик, поскольку это то, что мы знаем лучше всего. Мы видим лица на облаках, мы придаем индивидуальности животным, машинам и даже странам.

Приписывание человеческих эмоций и намерений нечеловеческим существам называется антропоморфизмом (антропос = человек, морфе = форма) и широко исследуется в области взаимодействия человека и робота. Несколько исследований по этой теме показали, что мы воспринимаем роботов, которые делают выразительные движения тела, более умными, дружелюбными и знакомыми.Если мы подумаем о сверхъестественной долине, преобразование человеческих движений в роботов было бы лучшим выбором, чем копирование человеческого облика для создания знакомства и симпатии.

Можно заключить, что этот ковер печален только по его движению.

Жуткая долина — не единственная причина, по которой нам не нужны роботы-гуманоиды. Научно-фантастические фильмы и книги повлияли на современные технологии. Есть люди, которые умеют воображать вещи, и есть люди, которые умеют создавать эти воображаемые вещи.Люди, которые умеют строить, испытывают волнение, когда видят что-то, что они могут построить. Вот почему некоторые компании пытались создать летающие скейтборды из культового фильма «Назад в будущее». Многие ученые, вероятно, были затронуты идеями Жюля Верна о подводных лодках и ракетах. Если мы вернемся к тому, почему мы боимся гуманоидных роботов, мы посмотрели слишком много фильмов, в которых гуманоидные роботы были ужасающими, таких как Терминатор, Матрица, Ex Machina и так далее.

В презентации Маск пошутил о том, что их робот может двигаться со скоростью 5 миль в час, и вы можете легко убежать от него.Он добавил: «Надеюсь, этого никогда не случится, но как знать». Я не обвиняю Маска в том, что он сослался на действительно плохой сценарий для их продукта. Потому что, как люди, мы думаем о роботах-гуманоидах именно так: они представляют собой потенциальную угрозу. Это первое, о чем думают люди, когда видят робота-гуманоида.

Из презентации Tesla Bot

А как насчет Tesla Bot?

Маск сказал, что мы крупнейшая робототехническая компания в мире, упомянув автономные автомобили, которые они производят. Проблема здесь не в производственных возможностях и надежности вашего программного обеспечения, а в том, как эта технология впишется в повседневную жизнь.Honda анонсировала Asimo в 2000 году, и это было довольно удивительно для роботов-гуманоидов в то время. Проработав 18 лет, они решили закрыть проект. В то время технологий было недостаточно или общество было не готово? Я не думаю, что то, что произошло между Apple Newton и iPhone, будет таким же для Honda Asimo и Tesla Bot. Когда они анонсировали Apple Newton, технология не была достаточно зрелой, чтобы обеспечить удобство взаимодействия с пользователем, поэтому мультисенсорный экран iPhone принес успех карманным компьютерам через 14 лет. Asimo, Tesla или любой робот-гуманоид не имеет коммерческой области применения. Итак, проблема не в создании робота с лучшим компьютерным зрением, механикой, способностью ходить по неуравновешенным поверхностям и обработкой естественного языка. Главный вопрос в том, какие проблемы гуманоидные роботы решают лучше, где они нам нужны и должен ли он быть в гуманоидной форме, чтобы выполнять свои обязанности?

Tesla — важная компания со многими многообещающими продуктами. Однако они создавали ажиотаж, прежде чем создавать настоящий продукт.Попадает ли в заголовки газет о гуманоидном роботе Теслы? да. Повышает ли это стоимость компании? Наверное. Но когда я оценил идею с точки зрения, ориентированной на пользователя, легко понять недостатки продукта и то, как он может потерпеть неудачу на рынке.

Сегодня даже самые крупные компании не ставят дизайн на первое место в процессе разработки продукта. Скорее они предпочитают больше ориентироваться на технологии или продажи. Тем не менее, дизайнеры представляют пользователей больше всего на столе и руководят процессом, ориентируясь на человека. Я считаю, что для создания успешного продукта ключом является понимание пользователя. Люди, которые хорошо представляют , пытаются понять, что пользователю может понадобиться и что он хочет не только сегодня, но и завтра.

Дополнительная литература

Bartneck, C., & Forlizzi, J. (2004). Фреймворк, ориентированный на дизайн, для социального взаимодействия человека и робота. В RO-MAN 2004. 13-й международный семинар IEEE по интерактивному общению между роботами и людьми (стр. 591–594).

Даффи, Б.Р. (2003). Антропоморфизм и социальный робот. Робототехника и автономные системы , 42 (3–4), 177–190.

Финк, Дж. (2012). Антропоморфизм и сходство с человеком в конструкции роботов и взаимодействии человека с роботом. В Международная конференция по социальной робототехнике (стр. 199–208).

Фонг Т., Нурбахш И. и Даутенхан К. (2003). Обзор социально интерактивных роботов. Робототехника и автономные системы , 42 (3–4), 143–166.

Лейте, И., Мартиньо, К., и Пайва, А. (2013). Социальные роботы для длительного взаимодействия: опрос. Международный журнал социальной робототехники , 5 (2), 291–308.

Мори М., МакДорман К. Ф. и Кагеки Н. (2012). Жуткая долина [с поля]. Журнал IEEE Robotics & Automation Magazine , 19 (2), 98–100.

Шмитц М. (2010). Концепции реалистичных интерактивных объектов. В Труды пятой международной конференции по материальному, встроенному и воплощенному взаимодействию (стр.157–164).

Вудс, С. (2006). Изучение пространства дизайна роботов: точки зрения детей. Взаимодействие с компьютерами , 18 (6), 1390–1418.

Взаимодействие человека и робота — обзор

Влияние во взаимодействии человека и робота

Раннее исследование взаимодействия человека и робота ( HRI ) показало, что люди склонны «олицетворять» компьютеры (Scheibe & Erwin, 1979). Субъекты в исследовании Шайбе и Эрвина использовали личные местоимения («ты» или «он / она») для компьютеров и были очень эмоционально вовлечены в простую стратегическую игру с компьютером. Такое поведение не было связано с реальной производительностью игры, показывая диссоциацию между нормативным, рациональным взаимодействием с компьютером и конкретными социально-эмоциональными реакциями пользователя-человека. В соответствии с этими выводами, Ривз и Насс (1996) разработали теорию уравнения среды , которая утверждает, что, поскольку взаимодействие человека с машиной по своей природе является естественным и социальным, правила взаимодействия человека и человека также применимы к взаимодействиям человек-машина.

Опираясь на идеи теории уравнения медиа, Насс и его коллеги (Nass & Moon, 2000; Nass, Moon, Morkes, Kim, & Fogg, 1997b; Nass, Steuer, Henriksen, & Dryer, 1994) демонстрируют, что люди-пользователи склонны взаимодействовать с компьютерами, как если бы они были независимыми социальными субъектами ( компьютеров в качестве социальных субъектов , CASA ).Теория CASA утверждает, что, во-первых, люди используют те же правила и эвристику при взаимодействии с компьютером, что и при взаимодействии с людьми, а во-вторых, будучи «бездумными», человеческие акторы не осознают своего поведения по отношению к компьютерам. Используя теории социальной психологии и эмпирические тесты, ряд исследований подтвердил идеи, лежащие в основе CASA. Например, в студенческих выборках определенные стереотипы, которые, как предполагалось, применимы только к людям, также использовались при взаимодействии с компьютерами.Например, в одном исследовании (Nass, Moon, & Green, 1997a) участники демонстрировали стереотипное гендерное поведение при взаимодействии с компьютером мужским, женским или нейтральным голосом. В другом исследовании (Nass, Isbister, & Lee, 2000) участникам были показаны видеозаписи людей той же или другой этнической принадлежности. В одном случае им сказали, что они взаимодействуют с человеком, в другом — они думали, что взаимодействуют с программным агентом. В обоих случаях участники продемонстрировали стереотипные внутригрупповые предпочтения.Из подобных исследований был сделан вывод, что люди бездумно реагируют на социальные сигналы, независимо от того, исходят они от машины или нет.

Модель CASA утверждает, что люди будут иметь тенденцию взаимодействовать с компьютерами, как если бы они были людьми, даже если компьютеры совсем не похожи на них. Насс и Мун (2000) добавляют, что тенденция человека-пользователя демонстрировать человеческое поведение по отношению к машине возрастает, когда степень человеческого сходства (например, персонализированный интерфейс; использование языка; отображение человеческого лица; выражение эмоций; интерактивность) увеличивается.

Идея о том, что подобие человека в машине увеличивает склонность человека к позитивному взаимодействию с ней, также была выдвинута в других исследованиях взаимодействия человека и робота (см., Например, Cappella & Pelachaud, 2002). Исследования Брюса, Нурбахша и Симмонса (2001) показали, что люди более склонны к взаимодействию с роботом, если у него человеческое лицо и если он двигает головой (подвижный экран). Факторами, которые способствуют человеческой тенденции к антропоморфизации роботов , являются независимое движение (см., Например, Tremoulet & Feldman, 2000) и лицо с глазами (см. Scassellati, 2002).Однако подобие человека имеет свои пределы, как показывают исследования с использованием гипотезы сверхъестественной долины . Первоначально предложенная японским робототехником Масахиро Мори (1982), гипотеза сверхъестественной долины утверждает, что люди положительно реагируют на рост человеческих качеств роботов, но в случае небольшого отклонения от идеального человеческого подобия они имеют тенденцию реагировать пренебрежительно. Эмпирические исследования последних лет проанализировали эффект сверхъестественной долины с различных точек зрения, например.g., с точки зрения развития (Lewkowicz & Ghazanfar, 2012) и с помощью отслеживания взгляда (Cheetham, Pavlovic, Jordan, Suter, & Jäncke, 2013), а также функциональной визуализации мозга (Cheetham, Suter, & Jäncke, 2011).

Однако пока мало доказательств того, что люди действительно эмоционально реагируют на роботов. Исследования, изучающие эмоциональные реакции людей при нанесении вреда роботу или наблюдению за тем, как роботу причиняют вред (Bartneck & Hu, 2008; Rosenthal-von der Pütten, Krämer, Hoffmann, Sobieraj, & Eimler, 2013; Slater et al., 2006) продемонстрировали, что готовность участников «навредить» роботу выше, чем их готовность причинить вред человеку в классическом эксперименте Милграма, и что почти все участники были готовы уничтожить робота, чего они, вероятно, не стали бы. если бы это было «настоящее» живое существо. На первый взгляд, эти результаты могут противоречить идее человеческого сходства во взаимодействиях человека и робота. Но в то же время почти все здоровые участники сообщали об одних и тех же негативных чувствах, тех же моральных опасениях, а также о том же возбуждении и стрессе, которые они испытали бы, если бы их попросили причинить вред или убить живое существо, даже если «пострадал» робот — это всего лишь робот с функциональным, неэмоциональным воплощением.Розенталь-фон дер Пюттен и др. (2013) утверждают, что эта эмоционально-поведенческая диссоциация происходит из-за осознания того, что никакого реального вреда не наносится, потому что робот не является живым существом, и что это самооправдание компенсирует эмоциональную реакцию. Также было продемонстрировано, что люди приписывают роботам эмоциональные состояния и соответствующим образом корректируют свое поведение (Eimler, Krämer, & von der Pütten, 2011). Эти результаты согласуются с выводом, сделанным в упомянутом выше исследовании Шайбе и Эрвина, о том, что существует диссоциация между рациональным поведением, с одной стороны, и социально-эмоциональной реакцией, с другой. Одно из объяснений, которое может объяснить эти, казалось бы, противоречивые результаты, — это содержание ментальных моделей, которые люди используют при рассмотрении роботов. Эти ментальные модели содержат схемы, убеждения и эвристики, определяющие категорию объектов, к которой принадлежит рассматриваемый объект. Они формируются автоматически, когда новый объект вызывает извлечение опыта и знаний из долговременной памяти, которые определяют реакцию на рассматриваемый объект (см. Gentner & Markman, 1997, для получения дополнительной информации о задействованных когнитивных процессах).Комбинируя эти переживания и знания, ментальная модель объекта возникает более или менее мгновенно в течение первых двух минут взаимодействия (Powers & Kiesler, 2006). Предполагается, что сигналы запускают одновременный поиск, независимо от того, являются ли извлеченные категории взаимоисключающими (Hintzman, 1986). Таким образом, ментальная модель робота вполне может содержать характеристики, типичные для механических роботов и живых существ одновременно. Поскольку ментальные модели включают и эмоции, и рассуждения, интеграция разрозненных характеристик в одну ментальную модель может объяснить диссоциацию между рациональным поведением и социально-эмоциональной реакцией (см. Kiesler & Goetz, 2002; Powers & Kiesler, 2006).

Хотя рациональные реакции на механические свойства робота иногда кажутся сильнее эмоциональных реакций на его естественные особенности, это не всегда так. Ряд исследований (Kidd, Taggart, & Turkle, 2006; Klamer & Ben Allouch, 2010; Turkle, 2005; Wada, Shibata, Saito, Sakamoto, & Tanie, 2005) подтверждают, что люди проявляют сочувствие к роботу, заботятся о нем , и образуют привязанности, напоминающие привязанности настоящих животных и человеческих младенцев. Интересно, что Кидд и соавт.(2006) сообщают, что большинство пожилых участников интервенционного исследования с роботоподобным роботом сообщили, что не удосужились ответить на вопрос, жив ли робот или нет, но тем не менее им он понравился. Об отрицательных эмоциональных реакциях сообщается у ряда жителей домов престарелых, которые боятся взаимодействия с роботоподобным животным, потому что они беспокоятся, что он может укусить (хотя это в основном сообщается для людей с деменцией), или испытывают стресс, когда от них ожидается взаимодействуют с роботом-животным или младенцем в течение длительного периода времени, потому что чувствуют, что ответственность для них слишком велика.

В целом исследования HRI показывают, что люди, как правило, взаимодействуют с компьютерами и роботами так же, как и с людьми. Чем больше человеческое сходство, тем сильнее склонность человека-пользователя реагировать на машину, как если бы она была живым существом. Однако эта тенденция резко и внезапно снижается, когда робот почти, но не полностью, неотличим от реального живого существа, и на смену ей приходят отталкивающие эмоциональные реакции. Эти отношения усложняются тем, что немногочисленные исследования эмоций по отношению к роботам показывают, что, хотя люди действительно проявляют сочувствие к роботам, заботятся об их благополучии и формируют привязанности, напоминающие привязанности к реальным животным или младенцам, когнитивное мышление может компенсировать эти тенденции.Возможным объяснением противоречивых результатов может быть формирование ментальных моделей роботов, которые содержат аспекты как машин, так и живых существ.

Робот Ameca демонстрирует более человеческое выражение лица

Engineered Arts, компания, создавшая серию человекоподобных роботов Mesmer, представила новое творение, которое может вас еще больше удивить. «Амека» — это новый робот-гуманоид, у которого нет реалистичных волос и кожи, как у Месмера, но вместо этого он может показывать более человеческие, естественные выражения, чем другие, которые мы видели, как сообщает The Verge .

Ameca сначала проявляет смущение, когда кажется, что просыпается, затем проявляет легкое удивление, когда шевелит руками (жесты рук тоже выглядят вполне реальными). Затем он выглядит удивленным, увидев зрителя или камеру, и заканчивает видео улыбкой и приветственным жестом руки.

Улучшения в лицевой анимации кажутся результатом более плавных движений, чем мы видели раньше. Напротив, у робота Месмера «Фреда» были приличные движения головой, но он «выглядит так, как будто ему только что сделали укол новокаина во всю нижнюю часть лица», когда он говорит, — писал я еще в 2018 году.

Похоже, что у него полностью сформированные голова, лицо, шея, плечи, руки и кисти, но Engineered Arts отмечает, что ни один из его роботов не может ходить — хотя компания изучает эту способность. Непонятно, как были анимированы выражения лица Амеке, но какая-то форма захвата движения кажется хорошей ставкой. Компания заявила, что Ameca является «платформой для разработки ИИ», но позволяет другим разрабатывать необходимые алгоритмы машинного обучения.

Engineered Arts ранее заявляла, что в ней используются «мощные, бесшумные, с высоким крутящим моментом» двигатели для управления движениями тела и головы Месмера, причем все, что разработано с нуля, идеально работает вместе.Он также использует такие датчики, как камеры, датчики глубины, LiDAR и микрофоны. Чтобы управлять движениями, компания разработала программное обеспечение на основе браузера, которое работает со многими 3D-приложениями, используемыми для визуальных эффектов или игровой анимации.

Нет информации о ценах или доступности для Ameca или Mesmer, хотя, как сообщается, более базовые модели RoboThespian компании в 2018 году стоят 79000 долларов и выше. В любом случае, мы скоро познакомимся с Ameca поближе, так как Engineered Arts планирует покажите это на выставке CES 2022 в Лас-Вегасе.

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Следующая запись

Поздравления в день матери в стихах: поздравления с днем матери в стихах

Сб Мар 10 , 1984
Содержание Поздравления с Днем Матери в стихахСтихи на День Матери – красивые и трогательные до слез поздравления. Кто приходит ко мне ночью? Поздравления в стихах для детей начальной школыКороткие стихи о маме для дошкольников Трогательные поздравления ко Дню Матери от сына и дочери Поздравления в стихах для детей начальной школы […]