No seriado de TV "The Good Place", existe um algoritmo celestial capaz de registrar e classificar como boa ou ruim cada ação do indivíduo para, no final de sua vida, determinar seu destino: céu ou inferno. Nenhum ser humano tem consciência da existência de tal sistema, visto que seu conhecimento colocaria o mundo em colapso e ninguém jamais agiria genuinamente. De maneira análoga, fora da ficção, milhões de brasileiros são manipulados pelos algoritmos de controle de dados da internet — a diferença é que não é preciso saber de sua existência para tornar-se uma vítima.

Primeiramente, é preciso mencionar as complicações causadas pelo marketing digital quando vinculado com o poder destes sistemas. É de conhecimento geral que a web trava cada clique do usuário, afim de lhe oferecer sugestões personalizadas de compras. No entanto, poucas pessoas têm conhecimento de como — ou se — é possível cancelar a permissão para um aplicativo fazê-lo depois de concedida. Em suma, essa configuração desnecessária apenas fornece mais riqueza para empresas multimilionárias e, em casos extremos, pode contribuir com a agravação de casos de compras compulsivas.

Em adição, tem-se a problemática da alienação. Em um ambiente virtual onde só se entra em contato com conteúdos personalizados, é fácil demais que alguém acabe preso a um único tipo de notícias e até opiniões. Por conseguinte, cai-se na ilusão da informação: com acesso a conteúdos específicos e uma dose de Efeito Forer — conceito da psicologia alinhado a tomar para si características e pensamentos genéricos —, ninguém precisa pensar com a própria cabeça.

Assim sendo, faz-se imprescindível que o Ministério da Justiça e Segurança Pública tome atitudes, implantando um órgão que, contando com equipes de programadores e verba pública, tenha como função desenvolver um sistema menos prejudicial que, no futuro, substitua o atual. Como consequência, os sistemas com poder de manipular as ações humanas voltarão a ser parte exclusivamente da ficção.