Була ніч, вогні Бориспільської траси пролітали повз вікон таксі. Водій вимкнув музику, нестерпно давившую мені на мозок після важкого перельоту, і, щоб не заснути, почав говорити.
Спочатку, звичайно, про політику, «довели країну», і все в такому роді, потім про щось особисте. Я теж не хотів відключатися прямо на передньому сидінні, тому намагався його слухати.
 … І тоді нам усім прийде кінець, — долинули до мене уривки фраз.   Точніше тільки їм, не мені. Я надійно підстрахувався. Коли їх всіх водіїв таксі, маршруток, навіть трамваїв викинуть на вулицю, мене вже там не буде. Я буду сидіти в теплі, пити каву і голосно-голосно сміятися.
  Чому-чому їх викинуть на вулицю?   заспанно перепитав я.
  Ти що, про Убер не чув? Що вони з водіями роблять — тільки репетиція, так. Скоро, вже дуже скоро вони запустять свої автопілоти. Це буде дешевше, безпечніше, крутіше! Всіх цих нездар чекає робота на будівництві. Або бомжатник. Але не мене, я розумніший їх.
— Так?   я протер очі.
Читати далі →

image
Історія навчання з підкріпленням в залежності від того, як рахувати налічує від півтора століть до 60 років. Остання хвиля (яка захльостує зараз нас всіх) почалася разом з підйомом всього машинного навчання у середині 90-их років 20-ого століття. Але люди, які зараз на гребені цієї хвилі починали саме собою не зараз, а під час попереднього сплеску інтересу — 80-их. У процесі знайомства з історією нам зустрінуться багато персонажі, що відіграли роль у становленні вчення про штучний інтелект (що ми обговорювали в попередній статті). Само собою, це не дивно, адже навчання з підкріпленням — його невід'ємна частина. Хоча про все по порядку.
Сама назва «навчання з підкріпленням» взято з робіт відомого російського фізіолога, нобелівського лауреата Івана Петровича Павлова. У 1923 р. вийшла його праця «Двадцятирічний досвід об'єктивного вивчення вищої нервової діяльності (поведінки) тварин» [1], відомий на заході як Conditional Reflexes [2]. Але психологічні підходи були відомі і раніше.
Читати далі →



Як багато з вас знають, в 2015 році Стівен Хокінг, Елон Маск і сотні вчених, розробників штучного інтелекту і великих бізнесменів підписали відкритий лист, в якому підкреслили небезпека ШІ для існування людства і закликали співтовариство інженерів і вчених не створювати штучні інтелекти, які не можуть повністю контролюватися людиною. У 2016-му на конференції Code Conference засновнику Space X і Tesla задали питання: які компанії, що розробляють сьогодні ІІ, викликають у нього побоювання? На це відповів, що зараз його лякає лише одна з них. Яка — не сказав. І незважаючи на всі запевнення техноадептов в тому, що ШІ — виключно благо, ціна зневаги механізмами безпеки може виявитися несумірною висока.
Читати далі →

На цьому тижні розцвіла пишним цвітом, розтеклася по лугах і долинах, розпустилася і опала головна конференція з інформаційної безпеки — RSA Conference 2017. Конференція, на відміну від заходів типу Blackhat або нашого власного Security Analyst Summit, трошки маркетингова. Досліджень щодо безпеки там майже немає (у нас есть, а так не дуже, зате красивих слів про інноваційних технологіях — багато. Слова теж потрібні: хочеться того чи ні, инфобезопасность давно перестала бути суто технічним феноменом, перетворившись в соціальний. Можливо із-за того, що в минулому році я був на заході, а в цьому — ні, цього разу слова з RSA я сприймаю з дещо більшою часткою скепсису.

Може бути так відбувається і тому, що инфобезопасный маркетинг останнім часом часто будується на якомусь очікуванні дива. Поки технар чекає, коли збереться проект, інший маркетолог мріє про блакитному вертольоті з чарівником, який прилетить і вирішить всі, абсолютно всі проблеми. Але немає. Показовим прикладом дисбалансу між мріями і суворою реальністю став семінар, присвячений технологіям майбутнього — конкретно штучного інтелекту і квантових обчислень — в перекладенні на киберзащиту (новость).

Читати далі →

Ось що квант животворящий робить



Сьогодні квантові обчислення — один із стратегічних напрямів розвитку, якому приділяють велику увагу великі корпорації та наукові центри. І хоча у пресі час від часу повідомляється про чергові досягнення щодо створення квантових комп'ютерів, поки що мова йде, в основному, про експериментальних виробах для відпрацювання ідей і технологій. Використовувати такі комп'ютери в життя поки важко. Але цілком ймовірно, що саме в 2017 нас чекає прорив у сфері практичного застосування квантових комп'ютерів.
Читати далі →

Вас атакує штучний інтелект



В кінці минулого року «штучний інтелект» багато разів згадували підсумки та прогнози IT-індустрії. І в нашу компанію, яка займається інформаційною безпекою, все частіше стали надсилати з різних видань запитання про перспективи AI. Але експерти з безпеки не люблять коментувати цю тему: можливо, їх відштовхує саме ефект «жовтої преси». Легко помітити, як виникають такі питання: після чергової новини типу «Штучний інтелект навчився малювати як Ван Гог» журналісти хапаються за гарячу технологію і йдуть опитувати по ній всіх підряд – а чого може досягти AI в тваринництві? А в сфері освіти? Десь у цьому списку автоматично виявляється і безпеку, без особливого розуміння її специфіки.

Крім того, журналістика, щедро підгодована IT-індустрією, обожнює розповідати про досягнення цієї індустрії в рекламно-захоплених тонах. Саме тому ЗМІ прожужжали вам всі вуха про перемогу машинного інтелекту в грі Го (хоча від цього немає ніякої користі в реальному житті), але не особливо дзижчали про те, що в минулому році загинуло як мінімум дві людини, які довірили своє життя автопилоту автомобіля Tesla.

У цій статті я зібрав деякі спостереження про штучний інтелект з еволюційної точки зору. Це незвичайний підхід, але як мені здається, саме він найкраще дозволяє оцінити роль AI-агентів безпеки, а також безпеку AI в інших сферах.
Читати далі →

Cognitive Services & LUIS: Введення в розпізнавання природної мови

У цій статті ми поговоримо про розуміння мови (про лінгвістичних обчисленнях, таких як призначення міток, синтаксичний аналіз і так далі) і звернемо особливу увагу на два API: Linguistic Analysis API і інтелектуальну службу розпізнавання мови (LUIS). Якщо ви любите англійську мову так само, як російська і захоплюєтеся навчанням штучного інтелекту, ласкаво просимо під кат.



Читати далі →

Логіка свідомості. Частина 11. Природне кодування зорової і звукової інформації

У попередньої частини були сформульовані вимоги до процедури універсального узагальнення. Одна з вимог наголошувала, що результат узагальнення повинен не просто містити набір понять, крім цього отримані поняття зобов'язані формувати певний простір, в якому зберігаються уявлення про те, як отримані поняття співвідносяться між собою.

Якщо розглядати поняття як «точкові» об'єкти, то таку структуру можна частково описати матрицею взаємних відстаней і представити у вигляді зваженого графа, де вершини — це поняття, а кожному ребру зіставлено число, що відповідає відстані між поняттями, які це ребро з'єднує.

Ситуація дещо ускладнюється, коли поняття мають природу множин (малюнок нижче). Тоді можливі формулювання типу: «поняття C містить поняття A і B», «поняття A і B різні», «поняття A і B мають щось спільне». Якщо покласти, що близькість визначається в інтервалі від 0 до 1, то про малюнок зліва можна сказати: «близькість A і C дорівнює 1, близькість B і C дорівнює 1, близькість A і B дорівнює 0).

Читати далі →

Логіка свідомості. Частина 10. Завдання узагальнення

В принципі, будь-яка інформаційна система стикається з одними і тими ж питаннями. Як зібрати інформацію? Як її інтерпретувати? В якій формі і як її запам'ятати? Як знайти закономірності в зібраної інформації і в якій формі їх записати? Як реагувати на інформацію, що надходить? Кожний з питань важливий і нерозривно пов'язаний з іншими. У цьому циклі ми намагаємося описати те, як ці питання вирішуються нашим мозком. У цій частині йтиметься про, мабуть, самої загадкової складової мислення — процедурі пошуку закономірностей.

Взаємодія з навколишнім світом, що призводить до накопичення досвіду. Якщо в цьому досвіді є які-небудь закономірності, то вони можуть бути виділені і згодом використані. Наявність закономірностей можна інтерпретувати, як присутність чогось спільного у спогадах, складових досвід. Відповідно, виділення таких загальних сутностей прийнято називати узагальненням.

Завдання узагальнення – це ключове завдання у всіх дисциплінах, які хоч якось пов'язані з аналізом даних. Математична статистика, машинне навчання, нейронні мережі – все це обертається навколо задачі узагальнення. Природно, що і мозок не залишився осторонь і як ми можемо іноді спостерігати на власному досвіді, теж часом непогано справляється з узагальненням.

Читати далі →

Глибоке навчання з підкріпленням віртуального менеджера в грі проти неефективності


Про успіхи Google Deepmind зараз знають і говорять. Алгоритми DQN (Deep Q-Network) перемагають Людини з непоганим відривом все більшу кількість ігор. Досягнення останніх років вражають: буквально за десятки хвилин навчання алгоритми навчаються і вигравати людини в теніс та інші ігри Atari. Нещодавно вийшли в третій вимір — перемагають людини в DOOM в реальному часі, а також вчаться керувати машинами і вертольотами.
DQN використовувався для навчання AlphaGo програванням тисяч партій в поодинці. Коли це ще не було модним, в 2015 році, передчуваючи розвиток даного тренду, керівництво Phobos в особі Олексія Спаського, замовило відділу Research & Development провести дослідження. Необхідно було розглянути існуючі технологій машинного навчання на предмет можливості використання їх для автоматизації перемоги в управлінських іграх. Таким чином, у даній статті піде мова про проектування самообучающегося алгоритму в грі віртуального управлінця проти живого колективу за підвищення продуктивності.
Читати далі →