A través de sus filtraciones y su testimonio en el Congreso, Frances Haugen, la "denunciante de Facebook", reveló muchas cosas sobre el funcionamiento de Facebook. Muchas de estas revelaciones son cosas que hemos sospechado durante mucho tiempo pero que ahora tenemos pruebas: Facebook se centra en el crecimiento -de los usuarios y del tiempo que pasan en sus plataformas- excluyendo todo lo demás. Para Facebook, el crecimiento está por encima de todo, incluso de la salud y la seguridad de sus usuarios más vulnerables.
En su testimonio, Haugen explicó que en Facebook, las métricas son el rey. La "división de crecimiento" de Facebook trabaja para aumentar el "compromiso de los usuarios", y lo consigue. Se trata de un proceso circular: Facebook identifica el contenido con el que los usuarios "se comprometen" y lo promueve, lo que lleva a un mayor compromiso. Los sistemas automatizados de Facebook no evalúan lo que es objeto de compromiso, sino que se limitan a identificar y clasificar los materiales en función del propio compromiso. Así, según Haugen, el sistema de puntuación automatizada clasificará como "atractivo" el acoso escolar que tenga éxito, junto con cualquier otra cosa que obtenga mucha atención. Los políticos que hacen declaraciones extremas obtienen más engagement, por lo que Facebook los clasifica mejor y, por tanto, son vistos por más usuarios de Facebook.
No es que Facebook pueda discriminar entre contenidos "buenos" y "malos" aunque quiera. Haugen dice que la "IA" que Facebook utiliza para evaluar el contenido es mala en las publicaciones en inglés y peor en las publicaciones en otros idiomas. Facebook "se centró en la escala sobre la seguridad" y "elige el beneficio sobre la seguridad".
No se trata de meras prioridades, sino que se reflejan en los incentivos que Facebook ofrece a sus ingenieros, diseñadores y gestores de productos, cuyas bonificaciones están vinculadas a la cantidad de "interacciones sociales significativas" (también conocidas como "engagement") que generan sus productos.
Es más, Facebook no se conforma con exprimir su base de usuarios existente y envejecida para conseguir "engagement". El plan de Facebook de un "Instagram para niños" es un intento de aumentar sus usuarios habituando a la gente a sus productos a una edad temprana, normalizando este tipo de maximización del compromiso como un elemento intrínseco de las interacciones sociales, incluso en las citas de juego. Haugen no cree que la "pausa" de Facebook en este plan sea permanente. Cree que sólo están esperando a que se calme la situación.
Para Facebook, el calor nunca cesa. La empresa siempre está en medio de un escándalo espectacular u otro. El testimonio de Haugen confirma lo que hace tiempo sospechábamos: las interminables crisis de Facebook son el resultado de una cultura corporativa podrida y de unas prioridades horribles.
La Sra. Haugen dijo en el Congreso que cree que hay que reformar Facebook, no disolverlo. Pero el sistema roto de Facebook está alimentado por un modelo de crecimiento a cualquier coste. El número de usuarios de Facebook y la creciente profundidad de los datos que recoge sobre ellos es su mayor argumento de venta. En otras palabras, la maldad de Facebook está inextricablemente ligada a su tamaño.
La posición de la EFF es que si cuando la maldad de una empresa es inseparable de su grandeza, es el momento de considerar la ruptura de esa empresa.
Gran parte de esta última controversia de Facebook tiene que ver con los anuncios de Instagram, concretamente con los anuncios que muestra a los jóvenes y el efecto que tienen en su salud mental.
Pero recuerda: Facebook no construyó Instagram. La compró, explícitamente para neutralizar a un competidor. Eso plantea la cuestión de si esa fusión debería haberse permitido en primer lugar, y si debería deshacerse hoy.
Facebook compró Instagram porque era una "amenaza". Instagram estaba creciendo, atrayendo a los usuarios más jóvenes que estaban abandonando Facebook. La investigación de Facebook mostró que los usuarios jóvenes lo veían como un servicio para personas mayores. La disminución del atractivo de Facebook provocó fricciones tras la fusión de la empresa con Instagram, ya que los usuarios de Facebook se llenaron de celos de sus colegas de Instagram. El recelo corporativo de Facebook hacia Instagram acabó por forzar la salida de los fundadores de la empresa, dejando todo lo relacionado con Instagram en manos de Facebook. El enfoque de Facebook en el compromiso, su insularidad, su necesidad de agrupar todos los servicios bajo el paraguas de la aplicación principal de Facebook, todo ello tiene su origen en su mentalidad de crecimiento a cualquier precio.
Para la mayoría de las empresas, el objetivo es maximizar los beneficios. Sin controles significativos, ese impulso puede desbocarse, conduciendo a conductas poco éticas, abusivas y, eventualmente, ilegales. La historia de Facebook, con sus reincidencias a pesar de las multas récord, los decretos de consentimiento y las fuerzas del mercado, demuestran que estos simplemente no sirven.
Si establecemos las rupturas como una posibilidad seria que las empresas deben considerar, podemos disciplinarlas, de modo que se vigilen mejor a sí mismas, y podemos abrir un espacio para soluciones reguladoras más creativas. Y si eso no tiene éxito, podemos disolverlas, creando más competencia que discipline su comportamiento.
Las rupturas no son ni serán nunca la primera línea de defensa para todos los problemas de la tecnología. Pueden ser complicadas y costosas, y la historia ha demostrado que cuando una ruptura no va seguida de la aplicación de la ley, las partes fragmentadas de un monopolio pueden simplemente reconstituirse. La disolución de AT&T en 1984 fue el resultado de casi dos décadas de trabajo del Departamento de Justicia, y condujo a una diversificación radical del mercado. Pero en las dos décadas siguientes, la revisión laxa de las fusiones y la desregulación permitieron que el mercado de las telecomunicaciones volviera a concentrarse en un puñado de grandes actores.
Podemos y debemos perseguir múltiples estrategias que nos lleven a un lugar en el que no tengamos que preocuparnos cada mañana por lo que nos hace Facebook hoy.
Las rupturas son una herramienta poderosa. Para que las disoluciones sean efectivas, necesitamos también otras herramientas, toda una caja de herramientas llena de formas de mantener a las empresas disueltas y garantizar un suministro saludable de competidores innovadores. Eso significa mejorar las revisiones de las fusiones, eliminar las barreras a la interoperabilidad, y leyes de privacidad bien elaboradas para proteger a los consumidores y nivelar el campo de juego.