Вчимося у машинного навчання (суботнє, філософське)

Машинне навчання втягує у свою орбіту все нових ентузіастів. Таким ентузіастом став я кілька років тому. Я – представник однієї з груп «долучилися», економіст з практикою роботи з даними. Дані – завжди проблема в економічній науці (такою і залишилася, втім) і було легко купитися на мантру «великі дані». Від великих даних було легко перейти, слідом за Гарнтером в 2016, до машинного навчання.



Чим більше займаєшся цією темою, тим більш цікаво стає, особливо в світлі відбуваються пророкувань типу настання ери роботів, розумних машин і т. п. І це не дивно, що такі машини будуть створені, т. к. еволюція показує, що людина вчиться розширювати себе, створюючи симбіоз людина-машина. Буває йдеш біля свого паркану, стирчить цвях. Ох як важко його забити без молотка. А молотком – раз і там. Тому не дивно, що з'являються такі «помічники» для мозкової діяльності.

По ходу вивчення теми, я не переставав думати про те, що, здається, машинне навчання пояснює, як влаштований наш розум. Нижче я перерахую уроки, які я витягнув про людину, вивчаючи машинне навчання. Не претендую на правоту, приношу вибачення, якщо все це очевидно, буду радий, якщо матеріал побавить, або якщо будуть контр-приклади, щоб почати знову жити вірою в «незрозуміле». До речі, біля Вишки є курс, де машинне навчання використовується для розуміння роботи мозку.

1) Ансамбль найпростіших алгоритмів може розбиратися в неймовірною купі даних з хорошою точністю. У цьому зв'язку пригадується недавно спочилий Мінскі, який написав цілу книгу про недолугих агентів, які в сукупності утворюють наш розум. Таке трактування розуму, дозволяє уявити, що все чарівництво, яке є наш розум, не більше, ніж сукупність простих моделей, навчених досвідом.

2) В плані навчання досвідом, пригадується один з улюблених слайдів Andrew NG:



На ньому Andrew загострює увагу на тому, що мозок може навчити свій інший відділ (де поки немає моделі) тим функціям, які були втрачені, наприклад, бачити мовою.

3) Дослідникам мозку відомо, що розум закладається, коли людина зовсім малий. Відбуваються фантастичні зміни – із звуків людина починає розуміти мову, розпізнавати батьків / чужих. Малюки поки б'ють комп'ютери, але це тільки показує, що, схоже, наш розум – це дуже хороші моделі, натреновані на гігантському обсязі інформації (напр., 3 роки безперервних картинок), гігантськими біологічними нейронними мережами (86 мільярдів нейронів).

4) Схоже, що деякі моделі можна якось пояснити і змінити – є область типу «sandbox» («давай подумаємо, чому це так», методи корекції типу психоаналізу і т. д.), а деякі йдуть в несвідомий «production» (звички і автоматичні дії: водіння автомобіля після багаторічної практики, дихання, рух і ін). Приклад того, як працює «production» – класичний кейс Clive Wearing. Людина повністю втратив здатність запам'ятовувати. «Having watched a certain video recording multiple times on successive days, he never had any memory of ever seeing the video or knowing the contents, but he was able to anticipate certain parts of the content without remembering how he learned them.» Тобто модель, натренована в минулі дні, є в пам'яті і дає передбачення для чергового перегляду. Модель – залишилася в пам'яті, дані про минуле – ні.

5) Ймовірно, багато люди лінуються створювати або оновлювати свої моделі і живуть на те, що в «production», на готових моделях, створених на історичних даних, які вже не актуальні. Тому так важко змінити людину: звичайно, він буде більше довіряти (несвідомо) моделі, натренованого на гігантському обсязі минулого інформації, ніж новим достовірним даними, обсяг яких менше.

6) Тварини живуть тільки на моделях в «production» – вони не можуть проаналізувати модель аналітично і без перенавчання змінити модель (ceteris paribus). Вони будуть виділяти слину без їжі, від світла лампочки.

7) Мозок часто поступається машині (аналітиці), особливо, якщо не думати ретельно. Наприклад, класика жанру з курсу Bill Howe, Practical Predictive Analytics: Models and Methods:



15% (!) докторів відповідають правильно (відповідь: 7.8%).

8) Інтуїція – це складні моделі, які не можна пояснити. Інтуїція – завжди заснована на даних моделях. Кращий приклад з книги Malcolm Gladwell «Blink» – «the tennis coach who knows when a player will double-fault before the racket even makes contact with the ball». Тобто його модель, натренований на роках спостережень, дає дуже точне передбачення потрапить м'яч в поле, маючи тільки дані до удару.

9) В принципі, можна зробити таке узагальнення: «Людина розумна в якійсь області настільки, наскільки добре він побудував алгоритм, навчений цій області.» Для цього, як правило, потрібно багато спостережень. Той же Гладвэлл каже, що даних потрібно, приблизно, за 10,000 годин практики.

10) Чому деякі не можуть порозумнішати, навіть маючи великий досвід? Зауважте, що саме так часто визначають дурня: «той, який робить у схожих обставинах (при тих же даних) одну й ту ж помилку.» Ймовірно, складність моделей у всіх різна, як і здатність навчати моделі.



11) Для тренування моделі потрібні позитивні і негативні приклади. Не можна навчити алгоритм або людини тільки на прикладах одного типу. Людина не навчиться, якщо його завжди лаяти або повторювати, що все ОК.

12) Машинне і людське навчання передбачає не з 100% вірогідністю. 25% помилки – це промах в одному випадку з чотирьох. Не треба дивуватися, що ідеальний алгоритм з такою помилкою часто помиляється (приклади: прогноз курсу валюти, GDP в цьому році, ігри Dota2 тощо) Не треба дивуватися, що дуже розумні можуть бути не праві дуже часто. До речі, допомагають середні великого числа передбачень – по ним краще судити, ніж по одному спостереженню.

13) Любов, музика, мистецтво і т. д. явно пов'язані з тією натренованого моделлю (прошу розуміти в потрібному значенні), яка перетворює дані, що надходять від об'єкта захоплення, імовірність успіху», активацію зв'язків, які нам подобаються» і т. д.

14) Машинне навчання побудоване на мінімізації помилки передбачення, що відповідає самому визначенню розумної людини (розуму) – той, хто дає правильну відповідь, тобто має мінімальну помилку.

15) Здатність пояснити чому саме так працює алгоритм вдруге, як для людини, так і для машини. У цьому зв'язку пригадується Будда:

«One day Māluṅkyaputta got up from his afternoon meditation, went to the Buddha, saluted him, sat on one side and said:
'Sir, when I was all alone meditating, this thought occurred to me: There are these problems unexplained, put aside and rejected by the Blessed One. Namely, (1) is the universe eternal...'

Витяг з відповіді Будди:
'...Suppose Māluṅkyaputta, a man is wounded by a poisoned arrow, and his friends and relatives him to bring a surgeon. Suppose the man should then say: “I will not let this arrow be taken out until I know who shot me; whether he is a Kṣatriya (of the warrior caste) or a Brāhmaṇa (of the priestly caste) or a Vaiśya (of the trading and agricultural caste) or a Śūdra (of the low caste); what his name and family may be; whether he is tall, short, or of medium stature; whether his complexion is black, brown, or golden: from which village, town or city he comes. I will not let this arrow be taken out until I know the kind of bow with which I was shot; the kind of bowstring used; the type of arrow; what sort of feather was used on the arrow and with what kind of material the point of the arrow was made." Māluṅkyaputta, that would die man without knowing any of these things…

...Therefore, Māluṅkyaputta, bear in mind what I have explained as explained and what I have not explained as unexplained. What are the things that I have not explained? Whether the universe is eternal or not, etc., I have not explained. Why, Māluṅkyaputta, I have not explained them? Because it is not useful, it is not fundamentally connected with the spiritual holy life is not conducive to aversion, detachment, cessation, tranquility, deep penetration, full realization, Nirvāṇa. That is why I have not told you about them.»

Згодні ви, що машинне навчання — хороша модель роботи мозку?

/>
/>


<input type=«radio» id=«vv71865»
class=«radio js-field-data»
name=«variant[]»
value=«71865» />
Так
<input type=«radio» id=«vv71867»
class=«radio js-field-data»
name=«variant[]»
value=«71867» />
Немає

Проголосував 21 людина. Утрималося 7 осіб.


Тільки зареєстровані користувачі можуть брати участь в опитуванні. Увійдіть, будь ласка.


Джерело: Хабрахабр

0 коментарів

Тільки зареєстровані та авторизовані користувачі можуть залишати коментарі.