La Comisión Federal de Comercio anunció el martes una nueva acción coercitiva llamada Operación AI Comply. Como parte de la investigación, se tomaron medidas contra varias empresas que utilizaron inteligencia artificial para “sobrecargar” productos y servicios fraudulentos.
Los casos involucran reseñas falsas generadas por IA, el “primer robot abogado del mundo” y esquemas de compras en línea.
El Así se afirma en el comunicado de la FTC. Los consumidores perdieron decenas de millones de dólares con la promesa de que la automatización y la resolución de problemas impulsadas por la IA les ahorrarían tiempo, dinero y aumentarían los ingresos en el comercio electrónico.
Al final, las empresas no estuvieron a la altura de sus afirmaciones y descubrieron que estaban engañando a los clientes.
“Es ilegal utilizar herramientas de IA para engañar, despistar o engañar a la gente” dicho Lina M. Hahn, presidenta de la agencia. “Las acciones de aplicación de la FTC dejan claro que no existen exenciones de inteligencia artificial en los libros”.
¿Puede un chatbot con IA disuadirte de creer en teorías de conspiración?
La denuncia de la FTC contra Rytr, una empresa que ofrece un servicio de redacción de inteligencia artificial, describe cómo los suscriptores pueden crear de manera efectiva reseñas falsas que no tienen base en las aportaciones de los usuarios. La FTC dice que en muchos casos, las reseñas generadas por IA contienen información falsa que engaña a los consumidores interesados en comprar un producto en particular. Algunos suscriptores de Rytr han creado miles de comentarios que reflejan las imprecisiones.
Velocidad de la luz triturable
La FTC dijo que Rytr ofrecía un servicio que era capaz de difundir “una gran cantidad de reseñas falsas que perjudican tanto a los consumidores como a los competidores honestos”. La FTC recomendó que se prohíba a Rytr anunciar, promocionar, vender o vender servicios relacionados con la creación de reseñas o testimonios de consumidores en el futuro. La agencia prohibió las reseñas falsas y generadas por IA en agosto.
Velocidad de la luz triturable
Como parte de la Operación AI Comply, la FTC ha tomado medidas contra DoNotPay, una empresa que les dijo a los consumidores que su robot de IA podría ayudarlos a “presentar demandas por ataque sin un abogado” y “crear documentos legales perfectos en poco tiempo”. Si bien la compañía promociona el servicio como “el primer robot abogado del mundo”, no ha realizado una prueba para comparar su chatbot de IA con un abogado humano. Ni siquiera tenía abogados en su plantilla.
En cambio, la empresa les dijo a los clientes que podían comprobar el sitio web de una pequeña empresa en busca de violaciones de las leyes federales y estatales, una característica que resultó ineficaz.
En una declaración a Mashable, DoNotPay dijo que la queja de la FTC involucraba servicios que “varios cientos” de clientes habían utilizado y que “hacía tiempo que habían sido descontinuados”. La compañía dijo que resolvió el caso sin admitir responsabilidad.
La FTC también presentó denuncias contra tres empresas que se aprovechaban de personas que intentaban abrir tiendas en línea: TikTok, Walmart, Amazon y Etsy. Estas empresas suelen cobrar una tarifa elevada por abrir una tienda en línea impulsada por software propietario e inteligencia artificial, lo que puede aumentar sus ganancias. Algunos clientes tuvieron que comprar inventario no vendido.
Una empresa, FBA Machine, promete gestionar un “negocio de siete cifras” que será “seguro” para los clientes. Esta FTC garantizó falsamente reembolsos a los clientes que no pudieron recuperar su inversión inicial de decenas de miles a cientos de miles de dólares. En total, los clientes perdieron casi 16 millones de dólares a causa del plan.
Otra empresa, Ascend Ecom, dijo a los clientes que podría abrir tiendas con ingresos mensuales de cinco cifras gracias a sus herramientas de inteligencia artificial “de última generación”. La FTC estimó que el plan defraudó a los clientes por al menos 25 millones de dólares.
ACTUALIZACIÓN: 25 de septiembre de 2024 11:55 UTC Esta historia se actualizó para incluir una declaración de DoNotPay.
Temas
La inteligencia artificial es un beneficio social
