Hace bastante tiempo que Google dejó de ser un simple motor de búsqueda en internet. Con la irrupción de la inteligencia artificial (IA), a sus conocidas herramientas el gigante estadounidense incorporó la función AI Overviews, un chatbot que contesta las preguntas de los usuarios sin que tengan que ingresar a algún enlace.
Hasta ahí pareciera ser una herramienta fabulosa. El problema es que esta tecnología funciona de manera probabilística, por lo que a menudo pueden inventar una respuesta si no tiene claro cómo contestar.
Esto último es lo que hoy tiene a Google en un lío judicial. Todo por una respuesta inventada de AI Overviews y una demanda de Wolf River Electric, una empresa de energía solar de Minnesota, por —valga la redundancia— una demanda que jamás existió.
De acuerdo con los abogados de la empresa energética, la búsqueda de los términos «demanda contra Wolf River Electric» en Google hizo que la IA respondiera con difamaciones.
Según el portal Futurism, especializado en noticias y videos sobre ciencia y tecnología, citan un caso en el que AI Overviews contestó que Wolf River Electric había sido demandada por el fiscal general de Minnesota por “prácticas de venta engañosas”, como mentir a los clientes sobre cuánto se van a ahorrar y engañar a los propietarios para que firmen contratos con tarifas ocultas.
La herramienta de Google expuso el caso con toda confianza, apuntando por su nombre a cuatro importantes directivos de la compañía: Justin Nielsen, Vladimir Marchenko, Luka Bozek y Jonathan Latcham, incluso con una foto de Nielsen junto a las falsas acusaciones.
Pero eso no es todo. Para argumentar su respuesta, la IA citó cuatro enlaces: tres artículos de noticias y un comunicado del fiscal general. Sin embargo, ninguno de los enlaces hablaba sobre una demanda contra Wolf River Electric.
Wolf River Electric – Empresa de energía solar demandó a GoogleWolf River Electric – Empresa de energía solar demandó a Google
«Alucinación»: ¿Por qué la IA de Google cometió este error?
Este error, cuando la IA entrega respuestas o resultados incorrectos, inventados o que carecen de base en la realidad, se conoce como “alucinación”, común entre modelos de lenguaje de IA que van hilvanando una respuesta mediante la predicción de las próximas palabras, arrastrando muchas veces el error inicial hasta convertirlo en una mentira creíble con todo tipo de versiones inventadas (¿Jugaron alguna vez el juego de “El Teléfono”?).
Cuando Google integró AI Overview en el buscador, debió retirarlo de algunas búsquedas, sobre todo de recetas y nutrición luego de que recomendara añadir pegamento a la pizza.
En esta ocasión, Wolf River Electric acusa que debido a la respuesta que entregó la herramienta, varios clientes cancelaron sus contratos, valorados en hasta 150 mil dólares.
“Esta demanda no va solo de defender la reputación de nuestra empresa; va de defender la equidad, la verdad y la responsabilidad en la era de la inteligencia artificial”, afirmó Nicholas Kasprowicz, asesor jurídico de la empresa.
Para Google sólo fue un percance inofensivo, como calificó la compañía el incidente en su defensa.
Fuente: T13
