«Світ не Дикого Заходу»: IEEE опублікувала стандарт по створенню доброзичливих роботів

За словами Мартіни Ротблатт (Martine Rothblatt), підприємця і футуриста, людство швидко рухається до наступного еволюційному витку — до того моменту, коли ми почнемо завантажувати свою свідомість у комп'ютери. Вона зазначає, що сьогодні багато витрачають по кілька годин на день на переписку в соціальних мережах, обмінюючись цифровою інформацією, яку Мартіна називає «інтелектуальними файлами».

«Великі ІТ-компанії вливають мільярди доларів в розробку штучного інтелекту, тому є ймовірність, що ці файли будуть використовуватися для створення цифрових версій людей», — говорить Ротблатт.

/ Flickr / Matthew Rutledge /CC

З цієї причини Мартіна займається питаннями персоніфікації, ідентичності та громадянських прав майбутніх віртуальних людей. Буде цифрова версія вас вами? Або це зовсім інша персона? І персона взагалі?

І хоча ми, безумовно, рухаємося до моменту перенесення свідомості в комп'ютер, до появи перших віртуальних людей пройде ще багато часу. Але вже є інша, так би мовити, категорія об'єктів (поки ще), поведінка якої варто регулювати. 13 грудня Інститут інженерів електротехніки та електроніки — IEEE — представив першу версію «стандарту» по створенню роботів і штучного інтелекту, який отримав назву Ethically Aligned Design. Документ був розроблений за участю сотні членів IEEE Global Initiative і експертів в області ШІ, етики та інших наук.

Передбачається, що Ethically Aligned Design породить дискусії в суспільстві про те, як інтелектуальні та автономні системи повинні вести себе в системі цінностей та етичних принципів людства. Хоча штучний інтелект є досить багатообіцяючою технологією, стає очевидно, що потрібно щось більше, ніж просто обчислювальні потужності, щоб розв'язати «глибинні» проблеми. Тому новий стандарт застерігає від розробників створення чорних ящиків і пропонує методології для проведення досліджень.

IEEE зазначає, що роботи не повинні завдавати шкоди користувачам. У документі йдеться, що інтелектуальні системи стають все більш складними, тому незапрограмований поведінка може стати небезпечним, і необхідний нагляд за процедурою розробки інтелектуальних і автономних систем.

Нові та вже існуючі робочі групи проведуть зустріч з цього питання в Техаському університеті в Остіні 5-6 червня 2017 року, щоб внести правки і врахувати побажання громадськості у другій версії документа Ethically Aligned Design, який буде випущений восени того ж року.

Роботи в Росії
Варто відзначити, що подібними питаннями задаються і в Росії. Наприклад, 15 грудня засновник Grishin Robotics і співзасновник Mail.ru Group Дмитро Гришин спільно з юристом Віктором Наумовим представив проект закону «Про робототехніки».

У документі пропонується частково застосовувати до роботам те ж саме регулювання, що застосовується до тварин і юрособам. На сьогоднішній день, як пояснює Гришин, штучний інтелект не має емоцій, тому не може стати суб'єктом права — в цьому вони схожі на тварин. Що стосується юридичної особи, то штучний інтелект є «особливою юридичною конструкцією».

Гришин допустив створення єдиного реєстру роботів за типом ЕГРЮЛ і введення відповідальності (у тому числі кримінальної) для виробників роботів, як власників джерела підвищеної небезпеки. На думку Гришина, роботи можуть бути суб'єктами кримінального права. Він відзначає чотири можливі ситуації: навмисне створення робота-вбивці з метою вчинення правопорушення, навмисне відключення програм робота, блокуючих заподіяння шкоди людині, а також навмисне і ненавмисне створення робота, здатного завдати шкоди людині.

Проект закону був відправлений у провідні юридичні інститути, і автори висловлюють сподівання, що він стане базою для внесення змін в Цивільний кодекс.

Президент Cognitive Technologies Ольга Ускова теж впевнена, що питання внесення змін у законодавство піднято дуже своєчасно. Її аргументом стало те, що галузь автопілотованих автомобілів розвивається набагато швидше, ніж прогнозувалося (наприклад, в Піттсбурзі Über вже почав тестування безпілотників на вулицях міста).

Вона зазначає, що необхідно ввести метрики і стандарти для встановлення рівня інтелекту роботів, і відпрацювати правила поведінки машин з інтелектом в критичних ситуаціях.

«Питання загальнофілософського характеру і відповідальності теж повинні вирішуватися, але як частина регулювання. У першу чергу потрібно виробити систему взаємовідносин між машинами, а також між людьми і машинами», — продовжує Ускова.
Гришин переконаний, що дуже важливо не починати регулювання цієї галузі в Росії з введення заборон. Так, роботи зараз менше поширені в Росії, ніж, приміром, у Сполучених Штатах, але Росія має шанс стати першою в області регулювання робототехніки, що дасть величезні переваги.

Про що ще ми пишемо в блозі VAS Experts на Хабре:

Джерело: Хабрахабр

0 коментарів

Тільки зареєстровані та авторизовані користувачі можуть залишати коментарі.