Para la ingeniería social las personas son un “insumo” del proceso y no seres reales que piensan, sienten y cambian.
Un insumo en una ecuación comercial a los ojos de los negocios, no simbiontes reales que piensan y sienten.
A medida que evoluciona el proceso, es decir, a medida que los algoritmos comienzan a escribir los algoritmos, los humanos quedan fuera del circuito: los robots deciden. Pero, ¿no es imposible capturar todos los elementos de datos que representan la inmensidad de una persona y las necesidades, deseos y esperanzas de un ser humano?
El resultado previsible: personas arreadas como ganado, la destrucción del estado de derecho y de la justicia social.
Un resultado positivo a nivel corporativo/gubernamental es igual a un resultado negativo a nivel individual.
El modelado del comportamiento humano no es evidente: no somos aleatorios, sino diversos en conocimientos y habilidades; tomamos decisiones racionalmente pero nuestro proceder también es emocional.
Parece ser que el Bien Común se está convirtiendo en una reliquia obsoleta y desacreditada del pasado. ¿Hasta qué punto el mayor uso de algoritmos alentará una forma conductista de pensar en los humanos como criaturas de estímulo y respuesta, capaces de ser manipulados y empujados, en lugar de respetarnos como entidades complejas con imaginación?
Es posible que una ola de algoritmización desencadene nuevos debates sobre lo que significa ser una persona y cómo tratar a otras personas. Philip K. Dick nunca ha sido más relevante. ¿Podremos controlar los alogaritmos – inteligencia artificial o a quien los crea o los maneja para que sean beneficiosos para todos?
Pero debido a que el concepto “ser humano” es controvertido, se complica determinar cuándo y cómo nuestra humanidad se ve realmente disminuida, y cuánto daño conlleva esta disminución. ¿Derivarán más resultados positivos que negativos? Los algoritmos pueden manipular a las personas y los resultados…
Con demasiada frecuencia, vemos que reproducen los sesgos des sus diseñadores, al reducir decisiones complejas y creativas a decisiones simples basadas en la heurística. Esas heurísticas no necesariamente favorecen a la persona que interactúa con ellas. La mayoría de los creadores de software no optimizan las experiencias cualitativas, sino las tasas de clics, las visitas a la página, el tiempo dedicado a la misma o los ingresos. Estas decisiones de diseño significan que los algoritmos utilizan métodos sesgados para decidir qué noticias nos pueden interesar, personas con las que debemos conectarnos, productos que debemos comprar, etc.
Será un desafío, para los humanistas del S. XXI, para la Masonería del S. XXI comprender cómo un algoritmo podrá evaluarnos o manipular nuestro comportamiento. Es probable que muchas personas queden completamente desprotegidas.