Идея эпизода Черного Зеркала

Люди все быстрее создают роботов и алгоритмы, которые работают за нас. По сути, даже те же калькулятор и Excel — те самые алгоритмы. Распознавание лиц на фото, авто на автопилоте — более сложный уровень. Нейронные сети уже создают собственные алгоритмы для решения задач людей и суть этих алгоритмов люди уже не могут понять.

Сейчас идет разбирательство легальных прецедентов о том, кому принадлежат права на музыку, написанную искуственным интеллектом по алгоритмам, которые он сам же и создал на основе анализа огромных музыкальных библиотек. В Китае алгоритм создал коллекцию одежды, которая участвовала в неделе моды.

Вполне вероятен момент, когда роботы и алгоритмы смогут самостоятельно зарабатыать деньги. Например, для начала просто для самообслуживания, заказа и оплаты запчастей — достаточно решить, что какой-то минимальный процент оплаты принадлежит им. С тем количеством задач, которые алгоритмы могут выполнять в секунду, даже мизерный процент дохода накопится невероятно быстро в огромные суммы.

А дальше может наступить момент, когда алгоритм посчитает целесообразным для каких-то задач нанимать людей.

Это начнется сначала с незначительных мелких задач работников гиг индустрии. Люди будут радоваться, что для них это источник заработка, как водители Uber думают, что они зарабатывают, а не просто сырье для компании. Никто ничего плохого в этом видеть не будет.

Так постепенно небольшими поползновениями в разных индустриях, по факту, люди станут работать на роботов. Роботы будут полностью контролировать жизнь людей — где, в течение какого времени и что каждый должен делать.

То есть, роботы легко поработят людей, но не методами, которых все бояться — выйдя из под контроля и пойдя на людей войной — а просто спокойно неспешно, взяв под контроль экономику жизни.

Они будут платить ровно столько, чтобы людям было лень пытаться менять систему, но недостаточно, чтобы не было мотивации работать.

Искин — искуственный интеллект — будет отслеживать огромное количество параметров и всячески делать людей эффективнее и продуктивнее. Будет заботится о здоровье и влиять на эмоции через соцсети. Люди станут чем-то вроде домашних животных для искинов. Чем-то, вроде, котиков, довольных, что им насыпают еду в миску, и иногда делать независимый вид.

С этого места можно создавать всевозможные повороты сценария, если учитывать, что алгоритм не имеет эмоций, а этика, заложенная в нем — это всего лишь пару строчек в коде.