суббота, 8 декабря 2018 г.

В глубинах электронного разума. Deep Learning


Сегодня мы поговорим об искусственном интеллекте и посмотрим, действительно ли так безобидны  умные дома, автомобили, да еще и связанные в одну информационную сеть, в которой бог знает кто и что может найти? Могут ли искусственные устройства отодвинуть человека на второй план? Возможен ли бунт машин, которого боялись герои Айзека Азимова и о котором рассказывал фильм «Терминатор-3»?
Начнем с того, что машины, анализирующие информацию по запросам в Гугл, похожи на роботов не больше, чем авиационный двигатель на сковородку. Дело не только во внешнем отличии. В те времена, когда герои Айзека Азимова сформулировали первый закон робототехники «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред», тогда, во второй половине 20-го века, роботов программировали. Их действие было  полностью предсказуемым.
Но уже тогда результаты были впечатляющими.
В1997 году компьютер Deep Blue  обыграл в шахматы чемпиона мира Гарри Каспарова. Машина действовала методом перебора, не совсем, правда, обычным, а дополненным знаниями из шахматных партий. Можно сказать, что это была обученная, а не просто запрограммированная машина.
Победа DeepBlue долго муссировалась в прессе. Говорили, что шахматы — это полностью логическая игра, но есть другие игры: нарды и го, покер или бридж.  Для победы в этих играх нужны интуиция и эмоциональное взаимодействие с соперниками, нужно везение, наконец! В этих играх компьютеру не преуспеть.
Те, кто так думал, ошибались.
Компьютерные видео-игры или детсадовская игра «камень-ножницы-бумага» – искусственный интеллект осваивает их все и побивает человеческие рекорды. В «камне и ножницах», например, программа просчитывает, какой вариант человек подсознательно выбрасывает чаще всего, и действует соответственно.
В 2016 году программа  Libratus выиграла в покер два миллиона долларов. Ее соперниками были четыре лучших в мире игрока.
Игра «го» сдалась в том же 2016 году — программа AlphaGo обыграла корейского профессионала Ли Седоля со счетом 4:1. Такой разрыв в счете не оставил никаких сомнений в закономерности победы искусственного интеллекта.
И вот тут начинается самое интересное. Дети, игравшие в видео-игры, не тратили время на изучение инструкций и стратегий. Они подходили, нажимали на кнопки и смотрели, от каких действий счет увеличивался быстрее.
Искусственный интеллект действует примерно так же. Такой метод называется deep learning, или глубинное обучение. Реализуется он в нейросетях. Нейросеть — это множество процессоров, решающих ту или иную задачу, и соединенных между собой связями. Примерно так же, как соединяются связями нейроны человеческого мозга.
Компания, которая научила нейросеть играть в видео-игры и затем создала  программу для игры в го, называется Deep Mind. Она была создана в 2010 году в Англии. В 2014 году ее купила Google.
В Google нейросеть DeepMind занимается оптимизацией энергопотребления. И это очень важно: у корпорации Google  более миллиона серверов, которые потребляют несколько сотен мегаватт в час.  Это много: всех атомных станций России едва-едва хватит для того, чтобы обеспечить электричеством восемьдесят Google. Компьютеры просто жрут наше электричество. При таких аппетитах возможности гениальной машины будут весьма кстати.
Но DeepMind работает на Google и присоединена к серверам Google. Значит, ей доступны данные, которые находятся в хранилищах!
А там - там, наверное, есть все!
Так ли это безопасно? А? То, что искусственный интеллект может узнать о человечестве все?
Ученым неизвестно, как работает наш мозг. И создатели программы AlphaGo не знают, какие именно логические рассуждения привели к тому или иному ходу в игре.
Вот две истории на закуску.
В Корнельском университе создали четырехлапого робота, который должен был сам научиться ходить. После проб и ошибок робот бойко засеменил, переставляя свои четыре конечности. Потом одну лапу ему отвинтили. Делать нечего — спотыкаясь и падая, робот освоил передвижение на трех ногах.
На отдельном мониторе ученые следили, как работала нейросеть этого робота. Понятно, что основные связи были задействованы между нейронами, ответственными за равновесие, пространственную ориентацию и управление конечностями. Но неожиданное открытие: очень активно информацией обменивался нейрон, отвечавший за разпознавание лиц.
Получается, робот внимательно следил за лицами окружавших его людей: то ли своих учителей, то ли своих мучителей. Кто знает, какие решения, какие процессы обрабатывала его нейросеть? Что еще этот робот удумал внутри себя? Какими эпитетами награждал нас?
Еще интересный эксперимент. Две копии нейросети DeepMind cоревновались в виртуальной реальности. Задача: собрать урожай яблок в саду. Помимо корзинок у игроков были бластеры. Они могли как помогать друг другу, так и убивать друг друга и отнимать собранное.
Вот такое простое задание.
Выяснилось, что, пока яблок было много и всем всего хватало, игроки охотно сотрудничали. Но, когда урожай был почти собран, начались столкновения и вооруженные конфликты.
Кто знает, почему DeepMind действовала именно так? Может быть, она имитировала человеческое поведение, так сказать, следовала дурному примеру создателей? Или это поведение действительно наиболее эффективно с точки зрения выживания?
Ответа пока нет. Но есть еще одно наблюдение.
Первые научные работы в области искусственных нейронных сетей относятся к 40-ым годам 20 века. Первые программные разработки появились в 90-ых годах прошлого века. Но до 2012 года для создания работающей нейросети не хватало мощности аппаратуры.
2012 год — очень интересное совпадение. Помнишь, что такое 2012 год?
По календарю цивилизации майя в 2012 году завершился Великий цикл. В декабре 2012 года ожидали конца света — даже анекдот ходил о бабушке, которая сомневалась, солить огурцы или нет.
Но конца света не произошло, и все успокоились.
Может быть, рано? По мнению ряда ученых,  начало нового цикла у майя - это не конец света, а конец чисто человеческой цивилизации. Переход к цивилизации информационной.
Вот он и произошел.
Стивен Хокинг, Билл Гейтс и Илон Маск считали искусственный интеллект прямой угрозой человечеству. Неизвестно, каково будет место человека в Едином Разуме Земли, если такой возникнет без нашего человеческого контроля.

Комментариев нет:

Отправить комментарий