🏠: документалистика

О зарождении соцсетей и смене парадигмы искусственного интеллекта

Мой перевод куска фильма «Гипернормализация» Адама Кёртиса.


В 1960-х были оптимистичные мечты сделать компьютер, способный мыслить как человек, но все эти попытки заканчивались ничем. Тогда Джозеф Вейценбаум, работавший тогда в Массачусетском технологическом институте и разочарованный бесплодными попытками, написал программу, которая должна была бы являться пародией на все эти попытки.

Программа называлась «Элиза» и задумывалась как компьютерный психотерапевт, которая разговаривает с людьми, которые печатают ей свои проблемы. «Элиза» эмулировала принцип психотерапевта Карла Роджерса, метод которого заключался в том, что он просто отвечал пациенту теми же словами, которые он только что сказал.

Пациент садился перед терминалом и описывал свои чувства, а программа отвечала ему, часто в вопросительной форме. Одной из первых «пациентов», попробовавших использовать программу, была секретарша Вейценбаума, и её реакция была неожиданной. После двух-трёх обменов репликами с программой она повернулась к Вейценбауму и попросила его выйти из комнаты.

Обнаружился поразительный факт — любой, кто садился за терминал и начинал «общаться» с программой (а программа, естественно, не понимала ни слова из того, что ей печатают), реально вовлекался в этот процесс и начинал описывать свои сокровенные мысли и интимнейшие подробности своей жизни. Людям импонировало, что компьютер не занимает место некоего моралиста, не смотрит свысока и не пытается склонить собеседника к сексу.

Данная ситуация показала, что люди чувствуют себя более защищёнными, если они воспринимают свою отражённую личность, как в зеркале. После этого «искусственный интеллект» сменил направление и начал делать подобные вещи, только в значительно большем масштабе. Специальные программы начали наблюдать за поведением индивидуума в интернете и выяснять привычки и связи с тем, что он недавно посмотрел и прочитал, чтобы предсказывать, чего он мог бы захотеть в будущем.

Таким образом, образуется некий информационный пузырь, где человек замыкается и чувствует себя более комфортно и который оберегает от сложностей внешнего мира. Если тебе нравится это, то с большой долей вероятности понравится и то. Это проникло в большинство сфер жизни и направлено на то, чтобы сделать систему стабильной.

HyperNormalisation

Вчера посмотрел отличное кино на английском. Документальное, не для просмотра с детьми.

https://archive.org/details/HyperNormalisation

Статья о фильме