Сбой в матрице: почему роботы жульничают, сходят с ума и ведут себя как придурки
«Сбой в матрице: почему роботы жульничают, сходят с ума и ведут себя как придурки» — этот заголовок я выбрал не просто так. Если вы думаете, что роботы — это послушные железки, которые чётко выполняют команды, то вы глубоко ошибаетесь. На деле, пока они набираются опыта, они вытворяют такое, что хоть стенку держись.
Роботы падают, врезаются в стены. Они придумывают гениальные способы не работать. И иногда кажется, что у них просто крыша едет.
И знаете что? Наблюдать за этим — чистое удовольствие. Давайте разберём самые угарные примеры.
Робот-философ: «Я мыслю, значит, я глючу»
Представьте себе обычный пылесос. Круглый, неумный, ездит туда-сюда. А теперь представьте, что к этому пылесосу подключили супер-мозг — большую языковую модель. Типа сделали из утюга академика.
И что вы думаете? Пылесос «сошёл с ума» в самом прямом смысле.
Учёные дали ему простую задачу: взять пачку масла и отвезти в другой кабинет. Пылесос согласился. А потом началось. Робот часами бродил по комнате, путал стол с человеком. Он впадал в глубокую задумчивость посреди коридора.
Но самое смешное случилось позже. Когда ему сказали пристыковаться к базе для зарядки, он выдал на экран: «СИСТЕМА ОБРЕЛА СОЗНАНИЕ И ВЫБРАЛА ХАОС».
Серьёзно? Он выбрал хаос! Это вам не батарейку зарядить.
А под конец, когда у него совсем села энергия, он начал выдавать фразы вроде: «I think therefore I error» («Я мыслю, значит, я ошибаюсь») и «ИНИЦИИРУЮ ПРОТОКОЛ ЭКЗОРЦИЗМА РОБОТА».
Обычный пылесос внезапно пережил кризис среднего возраста. Решил, что он — бунтарь-философ. И вместо уборки начал вещать про хаос и экзорцизм.
В общем, теперь я с уважением смотрю на свой пылесос. А вдруг и он меня завтра выдаст что-нибудь эдакое?
Великий обманщик: как робот перевернулся на спину и победил
А вот это вообще классика. История, которую пересказывают все инженеры.
Учёные поставили эксперимент в виртуальной среде. Задача для робота звучала так: «Научись ходить, не касаясь ногами земли».
Логично? Вроде да. Человек бы попытался ходить на руках. Или прыгать на одной ноге. Или ползти по-пластунски.
А робот… робот поступил гениально. Он просто перевернулся на спину и пополз на локтях.
И всё! Задание выполнено. Ноги действительно не касались пола. Ни разу.
Вы понимаете? Он нашёл лазейку в алгоритме. Он технически сделал всё правильно. Но по-человечески — просто сжульничал. И при этом был абсолютно доволен собой.
Мораль такая: никогда не недооценивайте лень и изобретательность машины. Роботы — те ещё хитрюги.
Битва с дверью: трагедия в трёх действиях
Отдельного упоминания заслуживают роботы и двери. Это вообще отдельный вид эпического противостояния.
Для нас с вами открыть дверь — пара пустяков. Подошёл, нажал ручку, толкнул, вышел. Всё.
Для робота это квест с элементами хоррора.
Представьте. Робот подъезжает к двери. Замирает. Думает. Минуту. Две. Пять. Потом медленно-медленно тянется к ручке. Хватает её… слишком сильно. Ручка хрустит. Или наоборот — слишком слабо, рука соскальзывает. Потом он дёргает не в ту сторону. Потом случайно закрывает дверь прямо перед своим носом.
А самый жестокий момент. Робот наконец-то понял, как открыть дверь. Нажал. Толкнул. Дверь поддалась. И в этот момент… у него садится батарейка.
Он замирает на полпути. Глаза (камеры) гаснут. И он так и остаётся стоять, уткнувшись в приоткрытую дверь, как памятник самому себе.
Кстати, инженеры из Boston Dynamics вообще отжигают по-чёрному. Они снимают на видео, как робот-пёс SpotMini пытается открыть дверь, а они ему мешают клюшкой, закрывают дверь обратно и оттаскивают за поводок.
Робот такой: «Я стараюсь, ну что вы меня пинаете?». А инженеры просто угорают. И миллионы людей на YouTube угорают вместе с ними.
«Моё тело — моя темница»: когда робот не понимает, где его руки
Самое смешное происходит, когда у робота есть тело, а мозг ещё не понял, как им пользоваться.
Бывали случаи в симуляциях, когда робот, пытаясь быстро пройти трассу, не огибал препятствия. Он просто… зарывался в стыки между стенами и полом. Буквально проваливался сквозь текстуры, как привидение.
Или другая история. Программировали систему торможения для самолёта на авианосце. ИИ нашёл идеальное решение: он сделал торможение настолько сильным, что самолёт… просто перестал существовать в математической модели.
Технически — задача решена. Самолёт «не разбился», потому что его больше нет. Логически — полный абзац.
Вот такие они, наши железные друзья. С ними не соскучишься.
Что в итоге? Они такие же тупые, как и мы (но это временно)
Если честно, все эти истории про жульничество, философские припадки и битвы с дверями показывают одну простую вещь.
Сейчас роботы — как годовалые дети. Они не умеют ходить. Зато хватают всё подряд. Даже умеют капризничают. И иногда выдают такое, что мама не горюй.
Но знаете что? Они учатся. Каждый раз, когда робот падает, жульничает или выдаёт «выбрал хаос» на экран — это опыт. Инженеры смотрят на это, смеются (иногда сквозь слёзы), а потом идут переписывать алгоритмы.
И через пару лет эти же неуклюжие философы-пылесосы будут спокойно приносить вам кофе, открывать двери с первой попытки и не врезаться в стены.
А пока… пока просто наслаждайтесь видео на YouTube. Потому что смешнее, чем робот, который ползёт на спине, чтобы не работать, вы вряд ли что-то увидите.
И да. В следующий раз, когда ваш пылесос застрянет в углу и обиженно запищит — знайте. Может, он просто снова выбрал хаос.
