Pablo Sanz: ‘No puede ser que unos algoritmos puedan suplantar a los jueces’


Conversación tranquila de @jmfrancas con Pablo Sanz, profesor de derecho mercantil.

Tuitter:@jmfrancas Webhttp://sinpostureo.com bloghttp://www.noentiendonada.es,      YouTubehttps://www.youtube.com/channel/UCUGcEzxyMJwuOCBNnjwPDxg?view_as=subscriber Canal de Telegramhttps://t.me/joinchat/AAAAAE9v5rySdN0b09ak1Q

JMF: ¿Qué temas te ocupan más?
PS: En los últimos tiempos estoy muy interesado en lo que pasa en la economía digital y su regulación, todo lo que está pasando en Internet. En particular, el dominio del ciberespacio por parte de unos pocos gigantes tecnológicos, las denominadas Bigtech o GAFAM: Google, Amazon, Facebook, Apple y Microsoft, a las que habría que añadir Twitter.
 
JMF: Y, ¿qué está pasando en internet que te preocupa?
PS: El poder de estos gigantes tecnológicos no sólo está condicionando la economía mundial sino también la vida social y política. Se está conformando una cibercracia que supera a las tecnocracias y burocracias transnacionales y supranacionales.
 
JMF: ¿Qué quieres decir con “cibercracia”?
PS: Me refiero a que Silicon Valley es ahora mismo el centro del poder mundial, junto con el músculo financiero de Wall Street. Los legisladores y las instituciones democráticas deberían enfocarse en mejorar la supervisión y procurar la desconcentración de ese inmenso poder. Silicon Valley no es sólo un grupo de tecnólogos y magnates, es todo un ecosistema tecnofinanciero que está gobernando de facto el mundo digital. El ciberespacio no solo son las redes sociales, sino el software, el diseño y programación de algoritmos, la ciencia de datos, los servicios de hosting y una industria muy sofisticada de entretenimiento, ocio y psicología de masas. El auge de la cibercracia está provocando una metamorfosis de Internet en todos los aspectos.
 
JMF: Y, ¿cómo se controla esto en una economía abierta y en el libre mercado?
PS: En realidad, el poder económico siempre ha descansado en la información, en quien dispone de la mejor información y de los sistemas y herramientas para su procesamiento y análisis. Estas Bigtech o GAFAM constituyen monopolios en sus mercados de servicios digitales y están cerrando la competencia, están levantando inmensas barreras de entrada. De facto están cerrando Internet y por tanto la economía, aunque nos ofrezcan servicios gratuitos o low cost como anzuelo. La infraestructura de internet, los servidores, sistemas operativos y navegadores (iOS y Android) han recaído en unos pocos centros de decisión. El paradigma abierto, de libre acceso de Internet de los años 90 es, desde ya hace algunos años, una quimera. Internet se está centralizando en manos de unos gigantes que tienen más poder que los gobiernos y los representantes políticos.
 
JMF: Pero que podemos hacer además de lamentarnos…
PS: Lo primero de todo es ser conscientes de esta realidad. Gran parte de la sociedad desconoce la estructura del mercado y de la propiedad de Internet. Tampoco leen ni buscan quién está detrás de los servicios digitales que utilizan. Los servicios que se ofrecen en Internet, por ejemplo las redes sociales, son gratis. La razón es sencilla: el usuario es también el producto. Sus datos son la materia prima que se deja gratuitamente para la explotación por parte de estas megaempresas. Por tanto, lo primero es comprender la realidad del ciberespacio, mejorar la educación digital y la educación jurídica de la sociedad. De ese modo existirá una conciencia crítica que auspicie cambios regulatorios y éticos. No solo más protección de la privacidad, sino también la exigencia de más competencia, transparencia y neutralidad en los mercados digitales. Para eso es necesario que las Bigtech, estos gigantes de Internet, paren de crecer, que se desconcentren. La ley y los jueces deben tener instrumentos para revocar o deshacer las fusiones corporativas realizadas en Internet y que engendraron a estas megacorporaciones. Google, Amazon, Microsoft, Facebook (que controla WhatsApp e Instagram), son demasiado grandes y eso interfiere no solo en la economía y publicidad digital, sino en la opinión pública, en la libertad de información y de expresión y otros derechos. Existen mecanismos jurídicos para detener esta dinámica de concentración del poder en Internet.
 
JMF: Primero conciencia crítica y luego cambios regulatorios… ¿No será tarde? Ya se atreven a silenciar a un Presidente de USA e impedir que otras redes le dejen admitirle…
PS: La expulsión de Trump de Twitter y Facebook ha expuesto públicamente quién, en última instancia, tiene realmente el control del poder político. En un contexto bélico, lo primero que se atacan son las comunicaciones del enemigo. Las disputas políticas y mediáticas en EEUU demuestran esta realidad porque lo que ha hecho Silicon Valley ha sido básicamente neutralizar las comunicaciones del “trumpismo”. Trump sin Twitter se queda desarmado. Ahora bien, buena parte de la culpa la tiene el propio Trump por confiar sus comunicaciones públicas y oficiales a una corporación privada que no controla y que no se ocupó de regular ni supervisar desde que llegó a la Casa Blanca en enero de 2017. Obviamente, el problema de fondo va mucho más allá de este episodio. La clave a mi juicio está en el hecho de que en el ciberespacio actual dominado por estas Bigtech el concepto de ciudadanía decae. La ciudadanía cede ante el concepto de usuario. Y el usuario debe cumplir con las condiciones del prestador del servicio. Y además a esta dificultad se añade que el servicio que ofrecen en muchos casos es gratuito. ¿Cómo podemos entender que somos perjudicados por el proceder de estas megacorporaciones si no hay un daño directo al consumidor porque de hecho nos ofrecen cosas gratuitas y muy útiles para nuestro día a día? Observemos WhatsApp, Instagram, Gmail, Google Maps, Drive, videos de YouTube y los inmensos recursos de información y contactos que nos proporcionan. La sociedad debe ir madurando en Internet y empezar a exigir transparencia y neutralidad a los creadores de algoritmos que gobiernan los flujos de datos y que a través de unas pocas plataformas permiten modelizar grupos y opiniones, predecir sucesos, inducir tendencias y emociones o cancelar los contenidos que no interesan a estos poderes. Todo ello con un grado de precisión y sofisticación sin precedentes.
 
JMF: El ciudadano es usuario y la corporación, ¿qué es? ¿Qué obligaciones tiene?
PS: En la actualidad está resultando muy complicado establecer una regulación integral para Internet. La razón es bien sencilla. En el ciberespacio no existen formalmente fronteras ni límites jurisdiccionales. Las Bigtech o GAFAM operan en una dimensión global y electrónica que excede las capacidades de un Estado y de su ordenamiento jurídico. Los servidores, los centros de procesamiento de datos, los ingenieros y tecnólogos, la sede social de la empresa o los usuarios de los servicios pueden estar localizados físicamente en sitios distintos bajo jurisdicciones diferentes. En definitiva, el desafío está en generar un marco integral que dote de seguridad jurídica a todo el ecosistema y proteja a las partes más vulnerables, los usuarios. El problema lógicamente radica en que en Occidente tenemos una dificultad de orden geopolítico y geoestratégico. Los gigantes de Internet son casi en su totalidad empresas estadounidenses y obedecen a unos intereses, los de los sus accionistas, anunciantes y acreedores, que no se corresponden con los de otras partes del mundo, como Europa. Además, las agencias de inteligencia y seguridad de EEUU pueden por ley condicionar la actuación de estas Bigtech y obtener valor de la información que procesan a nivel extraterritorial en sus servidores. Esto lo demostraron ya Snowden y Assange. Además, a nivel económico, nos encontramos el problema de la fiscalidad de las plataformas digitales. A nivel sociopolítico la dificultad radica en cómo obligar a las plataformas de contenidos, propiedad de estos gigantes, a salvaguardar la libertad de información y de expresión, pues al no ser medios de comunicación no deberían tener capacidad de editorializar. No parece sensato que unos algoritmos diseñados por tecnólogos y científicos de datos financiados por magnates y fondos de inversión, con determinadas conexiones políticas y con su correspondiente sesgo ideológico, puedan suplantar a los jueces y determinar que es lo lícito o ilícito, lo verdadero o falso, lo correcto o incorrecto. La democracia y el pluralismo cívico podrían resentirse mucho, o definitivamente, si esta deriva autoritaria de carácter corporativo se cronifica.
 
JMF: Dices que no puede ser que ‘magnates’ suplanten a jueces, pero la realidad es que si es. ¿Qué hacemos entonces…?
PS: El núcleo del poder de la tecnología de la información y de las comunicaciones está depositado actualmente en unas pocas entidades privadas y son ellas las que establecen sus condiciones y políticas de sus servicios. Han pasado de permitirlo todo en la red, sin casi ningún control, a establecer sutiles mecanismos de censura, o modificando sus motores de búsqueda y posicionamiento de los resultados bajo pago de sus clientes. Acaban controlando los términos del debate público porque la opinión pública es cada vez más digital. El problema no es que retiren contenido claramente ilícito o con sospechas fundadas de violar derechos ajenos, incluso preventivamente, sino que condicionen de lo que se puede hablar o no. Eso ya es un nivel de control e influencia que una sociedad pretendidamente libre y democrática no debería permitir. Este último giro en las condiciones de los usuarios obedece a ciertos intereses porque vamos evidentemente a un Internet más autoritario, cerrado y controlado, incluso aunque existan redes sociales para los disidentes y mundos virtuales sumergidos en la Deep Web. Es preocupante que unos pocos grupos privados de poder hagan uso de esta ingeniería social cibernética para favorecer sus intereses contra los derechos de la mayoría, generando sesgos cognitivos e induciendo una especie de tribalismo en Internet. Es preocupante que una tecnología digital tan maravillosa como es Internet pueda sin embargo conducirnos a una sociedad más sectaria e ignorante. La promesa original de Internet era sin embargo la libertad de información, de expresión y de intercambio de conocimiento. La promesa sigue existiendo, pero será más difícil en un contexto controlado por esta cibercracia y sus monopolios, en anuencia con ciertos sectores ideológicos e intereses financieros y mercantiles.
 
JMF: Cada día hay más monopolios, y las leyes antimonopolio, ¿son historia?
PS: Las Bigtech son monopolios y han realizado graves conductas anticompetitivas. Las leyes y los organismos supervisores reaccionaron y estas Bigtech/GAFAM han sido investigadas y en muchos casos sancionadas en los últimos años. Pero esto no es suficiente por varios motivos. Las multas que reciben no son disuasivas. Son gigantes tan colosales que las sanciones administrativas apenas impactan en su cuenta de resultados. Siguen estableciendo barreras de entrada que impiden que haya nuevos competidores. Continúan firmando acuerdos de exclusividad con los fabricantes de los dispositivos electrónicos para que el software suyo esté instalado de forma predeterminada. Condicionan el comportamiento y las emociones de sus usuarios sin advertencia previa de sus implicaciones, a través de los algoritmos de sus motores de búsqueda en las plataformas, cookies, geolocalización, galerías de imágenes y en breve, mediante el desarrollo exponencial de la inteligencia artificial y el Big Data, como el reconocimiento facial y los datos biométricos. Internet bajo este sistema ha devenido en un gran bazar de compraventa de datos, donde todo vale para alimentar el mercado de publicidad online. Y ahora, además, estos gigantes han entrado a moderar los contenidos en las redes sociales. Por tanto, la única forma realmente efectiva de limitar el crecimiento y concentración de estos gigantes de Internet es elevando las multas y desintegrando sus grupos corporativos. Es decir, reducir obligatoriamente su tamaño empresarial y desconcentrando sus estructuras de propiedad y los servicios que pueden prestar. Las leyes antimonopolio deberían a mi juicio encaminarse a esta dirección: hacia la escisión forzosa de estas superestructuras de Internet. A nivel geopolítico, en el caso de Europa, sería muy recomendable poner coto a las GAFAM en nuestra jurisdicción y permitir el surgimiento de alternativas europeas en el mundo digital. Es crucial deshacer los monopolios de Internet y reestablecer la soberanía de los datos europeos en un marco de verdadera libre competencia.
 
JMF: Parece que hayan ganado la partida, ¿hay esperanza?
PS: Si, hay esperanza porque es de esperar una demanda social de cambio y una reacción del legislador. Estos inmensos imperios de Internet controlan los servidores, el hosting, las comunicaciones y redes sociales, la navegación y los motores de búsqueda, la publicidad online etc. pero al final, en última instancia, la persona humana es soberana y autora de sus datos. Si estos gigantes de Internet generan desconfianza, aunque la sociedad tenga ahora mucha dependencia de ellos, podríamos asistir a un progresivo éxodo digital hacia otros operadores e intermediarios que ofrezcan confianza. Es una cuestión de conciencia y soberanía. Lo mismo a nivel político y estatal. La cibercracia puede asistir a un declive si la sociedad civil empieza a moverse y a demandar competencia, privacidad, transparencia y neutralidad en Internet. De momento, es factible plantear medidas para que las Bigtech no sigan creciendo más, obligándolas legalmente a desinvertir activos, impidiendo más fusiones y absorciones. También es posible mayor supervisión de su actividad y una prohibición realmente efectiva mediante sanciones duras cuando se detecte que han impuesto condiciones contractuales nocivas para los usuarios, consumidores y otras empresas dependientes de ellas. Hay margen de maniobra para que se efectúe una mejor supervisión a través de mecanismos que impidan que estas megacorporaciones impongan acuerdos de exclusividad que restrinjan la competencia en el mercado digital. También la ley podría exigir que estas Bigtech, como Google, Amazon y Facebook no puedan superar cierta capitalización bursátil o determinados volúmenes de ingresos o cuotas en los mercados de publicidad online.
 
JMF: Mil gracias Pablo, ojalá lleguemos a tiempo. Un abrazo y seguimos en contacto.
PS: Gracias a ti.


Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *