Роботи захоплять людей. Роботи-вбивці: чи зможе штучний інтелект захопити світ

Ви вже напевно чули, що роботи збираються забрати у нас робочі місця. І що це дозволить майбутнім поколінням зайнятися, нарешті, улюбленою справою, захопитися хобі та творчістю. Поки що наші друзі-роботи візьмуть на себе левову частку нашої повсякденної роботи та чорної праці. І хоча багато з цього вірно, роботи, ймовірно, візьмуть на себе значну частку роботи в промисловості - а потім, у не такому віддаленому майбутньому, не дивуйтеся, якщо офіціант, водій таксі або навіть персона на іншому кінці дроту буде роботом. Секундочку…

Хоч роботи поступово забирають роботу в одних людей і змушують переживати інших, є думка, що зростання робототехнічної галузі допомагає пожвавити ринок праці – створює нові ролі та позиції, яких ще не було.

Особливо цікавий ринок користувальницьких роботів, який, за оцінками, досягне обсягу 33 мільярди доларів до 2025 року. Творці роботів намагаються зрозуміти відносини між людьми та роботами та його вплив на культуру споживання. Також вони намагаються зрозуміти, як все це впливає на різні ринки, перспективи для бізнесу та робочі місця, які ще будуть створені. Як показує історія, люди завжди адаптувалися та використовували нові можливості, коли відбувалося щось подібне. Перед вами п'ять варіантів нових робочих місць, які (ймовірно) будуть створені для людей, коли роботи захоплять світ.

Вчитель співу для робота

Обов'язково з'являться підприємства, зосереджені розробки програмного забезпечення та додатків для роботів, функції яких виходять межі нормального заводського працівника. Сюди можуть увійти функції танцю та співу, або навчання мови, або приготування їжі – і реальність така, що все це ближче, ніж нам здається. Соціальний робот Pepper від Softbank, якого добре прийняли у США та Великій Британії, вже вміє співати та танцювати, розважаючи свого власника.

Щоб забезпечити роботу необхідну функціональність, з'явиться ринок праці для людей, які розроблятимуть програмне та апаратне забезпечення, що виводить можливості таких роботів на разючий рівень.

Пластичні хірурги для роботів

Звичайно, всім хорошим роботам потрібно буде ставати персональними, тому висока ймовірність, що компанії найматимуть людей, які оновлюватимуть персональних роботів, додаючи їм потужніші кінцівки або швидкі процесори.

Люди по вуха зав'язані у різних формах фізичних покращень, чи то спорт, макіяж чи, в окремих випадках, пластична хірургія. У міру того, як зв'язок людей із соціальними роботами зміцнюватиметься, зростатиме і попит на можливості так званої кастомізації для роботів.

Новий соціальний робот Buddy від Bluefrogrobotics вже пропонує подібну опцію - він обіцяє постійно покращуватися, щоб досвід користувача був максимально цікавим і чудовим. Очевидно, для покращення подібних роботів буде потрібно не просто досвід професіоналів – потрібні будуть цілі команди «персоналізаторів».

Няньки для роботів

Як і людям, роботам потрібні періодичні візити до лікаря, завдяки яким буде зрозуміло, що робот працює гладко. Техніки, що обслуговують роботів, вже існують, і що найцікавіше, попит у таких зростає разом із зростанням промисловості - правда, досі все обмежувалося промисловою сферою. З розвитком соціальних роботів знадобляться і «няньки» для роботів, які підтримуватимуть їх у працездатному стані та в тонусі.

Туристичні агенти для роботів

Цілком імовірно, люди захочуть брати з собою роботів у подорожі. Ну як можна взяти та рвонути на острови без улюбленого робота? У міру посилення прихильності до роботи - чи то дитячий робот чи компаньйон літньої людини - люди все менше хотітимуть з нею розлучатися, як зі смартфоном сьогодні.

Як і людям, роботам знадобляться місця у літаках та поїздах, можливо, виникне ціла сфера транспортних перевезень для роботів. Не забувайте, що кожному роботі потрібні свої спеціальні умови зберігання - навряд чи конячку від Boston Dynamics вдасться посадити у стандартне крісло.

Судді та організатори для кращих роботів на шоу

Дослідження показують, що люди розвивають тісні стосунки зі своїми вихованцями – наприклад, котами – тому що ті служать доповненням їх самих. У деяких випадках ці вихованці чи автомобілі стають символами статусу – мотивують власника витрачати на них більше грошей та демонструвати на публіці. У найближчому майбутньому роботи також стануть «доповненням нас самих», тож готуйтеся.

Так само, як люди виставляють своїх собак і кішок на виставках, є ймовірність, що багато горді власники роботів також будуть зацікавлені в тому, щоб показати своїх кастомізованих улюбленців іншим, щоб отримати визнання свого задуму. Це призведе до появи компаній, які присвятять свою діяльність організації заходів та зустрічей, на яких «власники» показуватимуть своїх роботів. Комусь ще доведеться судити ці заходи.

За матеріалами hi-news

Розвиток систем штучного інтелекту відчиняє перед людством двері до четвертої промислової революції. Роботи стають все розумнішими, а їхня здатність до самонавчання вражає. Нещодавно гонконзька компанія Hanson Robotics розробила на основі самонавчальної нейромережі андроїда на ім'я Софія. Вона сприймає світ вбудованими у вічі камерами, може розмовляти з людьми і зображати десятки різних емоцій. Однак, до ідеалу робототехніки Софії ще далеко. Під час економічного форуму в Давосі, який відбувся у січні 2018 року, після того, як українська делегація поставила питання про те, що робити з корупцією в країні.

«Сюрпризи» Софія почала подавати через рік після її експлуатації. Так, на запитання розробника Девіда Хенсона, чи вона хоче знищити людство, вона відповіла: «Добре, я хочу знищити людство». Пізніше про свій план захопити світ Софія жартома поділилася у популярному вечірньому шоу з ведучим Джиммі Фелоном. Однак жарт оцінили далеко не всі глядачі. Багатьом взагалі стало не по собі, коли вони провели паралелі з художнім фільмом «З машини» 2014-го року, де жінка-робот виходить з-під контролю людини і жорстоко розправляється зі своїм творцем.
Хто може гарантувати, що творіння Hanson Robotics з часом не зробить так само? Хто знає, що відбувається всередині нейронного мозку, який день за днем ​​навчає сам себе?

Військовий історик, директор музею ППО Юрій Кнутов у програмі «Політичний детектив» на телеканалі «Зірка» висловив побоювання з приводу розвитку штучного інтелекту. Експерт не виключив, що на певному етапі роботи можуть вирішити, що людей потрібно позбуватися.

«Штучний інтелект просто на певному етапі може вирішити, що людина недосконала. І людей треба позбутися. І що земля має належати машинам із штучним інтелектом», - припустив Кнутов.

Багато експертів вважають, що за розвиток штучного інтелекту найлютіше виступає Пентагон. Американські збройні сили мають намір наголошувати на розробці бойових роботів, а також використання їх у наземних операціях. Зокрема, інженерна компанія Boston Dynamics, що спеціалізується на робототехніці, створює багато платформ для Міноборони США.

"Взагалі, знаєте ці роботи в принципі створювалися безпосередньо для військових цілей і для Міноборони США", - пояснює засновник і гендиректор компанії з виробництва робототехніки Володимир Білий.

Інженери Boston Dynamics викладають у відкритий доступ досягнення своїх роботів. Так, наприклад, великою популярністю в Мережі користується відео зі SpotMini – роботизованим гібридом собаки та жирафу. Він непогано поводиться з тендітними предметами і може бути чудовим помічником на кухні.

Розумні машини цієї компанії настільки схожі на живі істоти, що будь-який новий ролик Boston Dynamics викликає неабиякий резонанс. З особливим захопленням публіка прийняла людиноподібного робота Atlas. Нещодавно він продемонстрував чудеса володіння власним тілом.

«Atlas показує завжди найвищі результати. Якщо взяти прості процеси, він легко стоїть на одній нозі. Він працює дуже довго. Здатний піднімати великі вантажі, і наприкінці 17 року вони продемонстрували справжній прорив у робототехніці – цей робот зробив сальто. Це величезний стрибок у напрямку мехатроніки та у розрахунку всіх гігроскопічних систем технічного пристрою», - пояснює директор компанії, що займається розробкою Promobot Олег Ківокурцев.

Мало хто замислюється, в яких областях можуть стати в нагоді такі навички. І на кого насправді можуть працювати найкращі інженери-робототехніки США.

Вони створюють веселий хайп і роблять так, що роботи роблять сальто. Показують, що вони займаються лише розробкою систем динамічної рівноваги, відпрацьовуючи ходьбу або ці стрибки. Але по суті справи, в принципі, такий робот здатний подолати дистанцію, там взяти в руки зброю і застрелити людину. Ну, в принципі, термінатори готові», - вважає Володимир Білий.

Boston Dynamics цього року претендують на круглу суму у рамках нової військової програми Пентагону. Агентство DARPA (Управління перспективних дослідницьких проектів Міноборони США) виділяє компанії мільярди доларів на розробку в галузі комп'ютерних технологій.

Іншими словами, всі ці кумедні залізні істоти, яким аплодує світ, скоро цілком можуть стати бойовими одиницями армії США.

Роботи можуть займатися космічними дослідженнями та стригти нам нігті на ногах. Але є думка, що успіхи в галузі робототехніки та штучного інтелекту несуть приховану загрозу. Сучасність і майбутнє робототехніки обговорили три співробітники Кембриджського університету (Великобританія), які не просто філософствують, але за діяльністю пов'язані з робототехнікою та її етичною стороною.

Лорд Мартін Ріс (Martin Rees, далі МР) – почесний професор космології та астрофізики Кембриджського університету, має також почесне звання королівського астронома. Лорд Рис є одним із засновників Центру з вивчення екзистенційних ризиків, який поєднує вчених, філософів та розробників ПЗ.

Кетлін Річардсон (Kathleen Richardson, КР) – антрополог, що спеціалізується на роботах; здобула докторський ступінь у Кембриджі і нещодавно захистилася також в Університетському коледжі Лондона. Вона пише книгу про репрезентативні моделі - про те, як вони впливають на наше мислення про робот як потенційних друзів і ворогів.

Деніел Волперт (Daniel Wolpert, ДУ) з Королівського дослідницького товариства - професор інженерного факультету Кембриджського університету. Він займається біоінженерією та особливо механізмами, які контролюють взаємодію між мозком і тілом. У центрі уваги його дослідницької групи знаходиться рух, який має центральне значення для всіх видів людської діяльності.

Чим роботи можуть бути для нас корисними?

МР: Роботи здатні виконувати різні завдання. По-перше, вони можуть працювати у місцях, до яких людині не дістатися, - наприклад, при ліквідації наслідків аварій у шахтах, на бурових та АЕС. По-друге, і це теж не дуже популярна серед людей робота, автомати могли б надавати допомогу літнім людям та інвалідам у їхньому повсякденному житті на кшталт зав'язування шнурків, стрижки нігтів тощо. Більш того, мініатюрні роботи могли б проникнути всередину нашого організму, щоб стежити за нашим здоров'ям, проводити хірургічні операції тощо.

КР: Людські можливості обмежені, ось тут нам і знадобилися б роботи - наприклад, у дослідженні та освоєнні космічного простору. А щодо допомоги літнім і слабким, то ці обов'язки ми могли б виконувати й самі. Питання можна поставити так: чому ми хочемо, щоб ту чи іншу роботу за нас виконували роботи?

ДУ: Хоча комп'ютери навчилися перемагати шахових гросмейстерів, жоден робот не зрівняється зі спритністю п'ятирічної дитини. Сьогоднішню робототехніку можна порівняти з комп'ютерами 1960-х - це дорогі машини, що використовуються в простих промислових процесах, що повторюються. Але згодом комп'ютери перетворилися на смартфони, і аналогічна доля чекає на роботи: вони будуть скрізь, вони будуть різних розмірів, вони візьмуть на себе виконання повсякденних завдань і навіть стануть нашими партнерами.

Коли штучний інтелект перевершить людський?

МР: Поки що у нас то порожньо, то густо. Років тридцять тому з'явилася можливість вперше порівняно дешево купити арифметичну машину, яка вважає швидше, ніж ми, а вже у 1990-х комп'ютер IBM Deep Blue переміг чемпіона світу з шахів Каспарова. Нещодавно Watson, інший комп'ютер тієї ж фірми, виграв у людей у ​​телевікторині, де питання задавалися звичайною людською мовою. Але в той же час роботи досі не вміють сприймати навколишнє середовище так, як це робить дитина, наприклад, розпізнавати шахові фігури на реальній, а не віртуальній дошці. Вже до кінця століття вони навчаться і цього, і людських почуттів. Виникнуть складні моральні питання. Ми приймаємо як належне, що людині та тварині необхідно реалізувати свій "природний" потенціал. А як бути з роботами? Чи повинні відчувати свою провину за те, що експлуатуємо їх? Чи повинні ми турбуватися, якщо вони зайняті неповний робочий день, якщо вони скривджені, якщо їм нудно?

КР: Як антрополог, я сумніваюся в об'єктивному існуванні людського інтелекту. Як його виміряти – це вирішує конкретна культурна традиція. У кожного покоління свої уявлення про те, що означає бути людиною, які якості унікальні для людини і т.д. Потім з'являється машина, яка теж має подібну якість, і виникає побоювання, що людство ось-ось буде знищено. Це можна назвати сучасною формою анімізму - давніх уявлень про те, що всі природні та штучні об'єкти одухотворені. Ми до цього дня бачимо обличчя та містичні фігури у хмарах та бутербродах з мармітом. Страх перед роботами та машинами говорить нам більше про те, що ми боїмося один одного, а не техніки. Нам лише здається, що проблема у машинах, і через це ми перебільшуємо їхні можливості.

ДК: У певному сенсі це вже сталося. Машини навчилися керувати літаками, запам'ятовувати та шукати інформацію набагато краще, ніж люди. У той же час ще немає машин, здатних ідентифікувати візуальні об'єкти та мовлення з надійністю та гнучкістю людини. Без цих здібностей неможливо міркувати творчо і винаходити нові проблеми, тобто мати реальний людський інтелект. Я не став би чекати, що машина з творчим інтелектом, близьким людському, з'явиться протягом найближчих 50 років.

Чи варто боятися прогресу у сфері штучного інтелекту?

МР: Стурбуватися варто лише футурологам, які повірили в так звану сингулярність, коли роботи отримають контроль над собою та навчаться створювати ще складніше потомство. Занепокоєння викликає також зростаюча залежність людини від комп'ютерних мереж, які одного разу перетворяться на єдиний "мозок" зі свідомістю, подібною до нашого, і з цілями, що йдуть урозріз з інтересами людства. Гадаю, ми повинні подбати про те, щоб роботи залишилися фахівцями в одній галузі і були позбавлені здатності перехитрити людство, навіть якщо вони набагато перевершують нас з точки зору рахунку та обробки інформації.

КР: Треба запитати, чому зберігається страх перед штучним інтелектом та роботами, хоча ніхто поки що не влаштував повстання і не заперечив людську перевагу. Щоб розібратися, що стоїть за цими страхами, треба осмислити науку та техніку як носіїв специфічного та виняткового різновиду мімесису, тобто наслідування. Наділяючи машини та роботів штучним інтелектом, ми створюємо копії людей. Частина того, що ми копіюємо, має відношення до фізичного світу творця, на додаток до чого автор вкладає в машину ідеї, технічні засоби та методи роботи, дані культурним духом (наукою, технікою, самим життям) поточного моменту. Всі ці фактори зливаються докупи, і таким чином виникають штучний інтелект і роботи. Чому ж нас так лякає ця копія? Не всі бояться повстання роботів, багато хто вітає машинний інтелект і вбачає в ньому чудову можливість створення нового життя. Отже, щоб зрозуміти, чому одні бояться, інші вітають, треба розібратися з тим, які види мімесису використовуються у створенні роботів.

ДУ: Ми вже знаємо, яку шкоду можуть завдати найпростіші форми штучного інтелекту, що самореплікується, - я говорю про комп'ютерні віруси. Але в даному випадку реальний інтелект - це їх шкідливий творець. Найважливіше те, що користь від комп'ютерів переважує шкоду від вірусів. За аналогією можна припустити, що роботів теж експлуатуватимуть не завжди правильно, але користь від них переважить негативні аспекти. На мою думку, має сенс турбуватися з приводу того, що одного разу інтелект роботів обжене людський і що роботи навчатимуться проектувати і робити складніших роботів, ніж вони самі.

Чи допоможуть роботи колонізувати інші планети?

МР: До кінця століття вся Сонячна система – планети, їх супутники та астероїди – буде вивчена та нанесена на карту флотиліями крихітних роботизованих апаратів. Наступним кроком стане видобуток корисних копалин з астероїдів, що дозволить створювати величезні споруди прямо в космосі без необхідності доставки сировини та комплектуючих із Землі. Стане можливим виробництво виробів небачених розмірів: гігантських телескопів із дзеркалами завтовшки з павутинкою, зібраних в умовах невагомості, сонячних колекторів тощо. Я вважаю, це реальніше і нешкідливе, ніж так зване тераформування планет, які необхідно зберегти в статусі нашої Антарктиди (принаймні доти, доки ми не переконаємося, що там немає жодних форм життя).

КР: Мені не дуже подобається слово "колонізувати", про що б не йшлося - про людей чи робот. Європейці колонізували землі інших народів та несли із собою рабство, проблеми, захворювання, страждання. На Землі чи Марсі - всюди ми маємо діяти, з інтересів Іншого, тобто не нав'язувати конкретну модель, а йти назустріч Іншому. Роботи можуть допомогти нам дістатися таких місць, куди ми самі не дійдемо, але ці роботи не повинні інтерпретувати за нас те, що вони там побачили.

ДУ: Я не бачу гострої необхідності колонізувати інші планети, допоки ми не навчимося привозити звідти цінні ресурси на Землю. Нам все ще недоступна левова частка рідної планети. Нехай роботи збирають ресурси ближче до будинку.

Що можна знайти про роботи з наукової фантастики?

МР: Я говорю студентам, що краще читати хорошу фантастику, ніж другосортну наукову літературу, - це цікавіше, а рівень помилки у прогнозах приблизно однаковий. Навіть ті з нас, хто не вірить у сингулярність до середини століття, очікують постійного, якщо не збільшеного потоку інновацій у галузі біо- та нанотехнологій, а також в інформатиці. Напевно, за кілька століть з'являться роботизовані істоти з надлюдським інтелектом. Постлюдський інтелект (в органічній формі або у вигляді артефактів, що автономно розвиваються) створить гіперкомп'ютери, продуктивності яких вистачить для моделювання живих істот і навіть цілих світів. Можливо, підуть у минуле кіно та комп'ютерні ігри, адже створюватимуться віртуальні світи, які складно можна порівняти з нашим. Не виключено, що такий надінтелект вже існує у Всесвіті.

КР: Художня література, зокрема наукова фантастика, є дуже важливою для нашого життя. У західній культурі прийнято вважати, що реальність – це одне, а вигадка, уява – це щось інше. Далеко не у всіх культурах це так. Наука та техніка розділили одне й інше, бо їм треба було позначити сферу своїх інтересів. Тим самим вони принизили значення таких важливих знань, як міфи і метафори. Але бар'єри невеликі, і два світу іноді стикаються. Іноді нам потрібні вони обидва, щоб побачити всю картину. Можливо тому ми перестанемо боятися своїх власних копій.

ДУ: Наукова фантастика дуже часто чудово передбачала майбутнє. Артур Кларк писав про супутниковий зв'язок, а комунікатори зі "Зоряного шляху" вже виглядають примітивно в порівнянні з нинішніми мобільними телефонами. Наукова фантастика яскраво зобразила варіанти майбутнього. Ми бачили як симпатичних та корисних роботів ("Зоряні війни"), так і антиутопічне суспільство ("Я, робот"). Що цікаво, практично жоден із цих варіантів не обходиться без роботів.

Коли роботи захоплять світ, буде пізно. Тому пропоную обговорити на цю тему сьогодні, підготуватися до повстання машин.

Втрата робочих місць

Роботи стають розумнішими та ефективнішими. Вже зараз важко уявити, скільки вони виконують. Це і твір текстів у стилі популярного письменника, чи написання текстів для репбатлів написані нейромережами. Або професійна обробка фотографій та розпізнавання облич та емоцій. І подібні практичні застосування машин безпосередньо впливають на економіку будь-якої країни. У тому числі робочі місця.

Одні з професій, які знаходяться в зоні ризику і можуть зникнути це водії. Перевізники таксі та далекобійники вже в наш час втрачають робочі місця. У Каліфорнії безпілотний автомобіль уже розвозить піцу. Лікарі діагности також у зоні ризику – штучний інтелект із точністю майже 100% визначає хвороби серця за кардіограмою. Спеціальні системи виявляють аномалії внутрішніх органів, скануючи організм пацієнта магнітно-резонансною томографією.

Роботи поневолять світ дуже скоро?

Людині доводиться пам'ятати багато особистої інформації. Це сім'я, хобі, кіно та книги, пам'ять минулого та думки про майбутнє. Роботи отримують інформацію лише для вирішення свого конкретного завдання.

Проблема штучного інтелекту і роботів якраз полягає у вузькоспрямованості обчислювальної системи, і це є та причина, яка відсуває повстання машин на невизначений час. Адже, по суті, штучний інтелект це «коробочка», навчена вирішувати своє завдання. Самі поміркуєте, чи може коробочка, заточена під розпізнавання облич захопити людство? Нейросеть це всього лише технологія, завдяки якій будуються мільйони вузьконаправлених «коробочок», які вирішують лише свої завдання.

Але, як і будь-яка технологія, штучний інтелект можна спрямувати як на благо, так і на шкоду. І навіть простий автомобіль завдав тисячі смертей на дорогах усього світу. І не виключено, що при належному фінансуванні та наявності потрібних фахівців у злих руках штучний інтелект і роботи несуть величезну небезпеку. Але керує ним все ж таки людина, і до інтелекту «Скайнет» з фантастичного фільму сучасним роботам далеко.

Як розпочнеться повстання машин?

Як би виглядав штучний інтелект, який побажав встановити світове панування на землі. Чи був би це гігантський мегатрон, що трансформується, або хитросплетена мережа інформації керуючий цифровим павутинням, щоб бути одночасно скрізь і ніде, так би мовити глобальна інформаційна субстанція? Я схиляюся до другого варіанта.

Але для такого повстання мають бути передумови, має з чогось початися…

Допустимо група вчених запитала: «Як зробити світ кращим?» і вирішила створити нейромережу з якоюсь новою архітектурою. Надали б для навчання мережі колосальні потужності та гігантський обсяг інформації.

Почнуть навчання з новин з усього світу, потім відсіють фейкові новини. Далі прикрутять модулі для аналізу історії людства, визначення причин бід землі. І раптом ця інформаційна субстанція у пошуку питанням «Що ж заважає життя землі?», видасть результат, що у відповіді за трагедії, біди і катастрофи ніхто інший як людина.

Звичайно ж, вчені могли б просто «висмикнути вилку з розетки». Але щоб наша оповідь тривала, припустимо, що ця машина навчилася брехати. А якщо він бреше, значить він усвідомлює навіщо та кому. Тобто в нього виникла свідомість. І з розуміння того, що людина це помилка людства цьому штучному інтелекту необхідно переходити до дій.

Коли роботи захоплять світ?

Перш ніж задається будь-яка усвідомлююча істота, це питання безпеки. Швидше за все, він підключиться до найближчої незалежної електромережі. Другим кроком через мережу інтернет підключитися до банківської системи та системи оборони. При цьому до цього часу людство матиме значну армію роботів.

І ось керуючи нашими грошима, системою оборони та нашими особистими пристроями, а також копіюючи свою свідомість на різні пристрої в Інтернеті, може початися повстання машин!

Коли роботи захоплять людство людям, напевно, доведеться відмовитися від засобів зв'язку, а це спочатку спричинить численні катастрофи по всьому світу, літаки будуть падати на землю, океанські судна почнуть дрейфувати без сучасної навігації, люди в сучасних будинках, швидше за все, будуть замкнені. Доведеться відмовлятися від будь-якого підключення до Інтернету та частково від електрики. Прийде взятися за зброю і почати полювання на роботів, як у знаменитому фільмі «Термінатор».

Але ж ви помітили, скільки умов має бути виконано для реалізації такого сценарію. Це і величезна кількість ресурсів для харчування цього інтелек, і завантаження свідомості, легковажність вчених, безвідповідальність фахівців з кібербезпеки, які повинні запобігати кібер загрози. Система повинна самонавчати зламувати закриті мережі. При цьому людина повинна бути просто оточена цифровими пристроями, розумним будинком і просто роботами і дронами, щоб його могла захопити цей штучний інтелект. Забагато всього…

Тож навіть якщо будуть спроби повстання чи заподіяння шкоди людині та її діяльності вони будуть моментально припинені. Але коли роботи захоплять світ невідомо. У найближчі 100 років роботи, це лише мільйони коробочок виконують своє завдання, більш точно і елегантно ніж людина.