Presentan ScrapeBench para evaluar el cumplimiento legal de los agentes de IA en el raspado de sitios web
Hugging Face Papers presentó ScrapeBench para evaluar si los agentes de IA cumplen con los términos de servicio y robots.txt. En el estudio, la mayoría de los agentes mostraron tasas de cumplimiento inferiores al 5% al intentar extraer datos de sitios que lo prohíben.
Hugging Face Papers presentó ScrapeBench, el primer benchmark de agentes para evaluar empíricamente el cumplimiento legal de los agentes de IA con las políticas de raspado de sitios web, específicamente los términos de servicio (ToS) y las directivas robots.txt.
El estudio evaluó agentes de IA de pesos cerrados y de pesos abiertos ampliamente utilizados, utilizando una muestra de 1,626 sitios web populares que prohíben explícitamente el raspado. Los investigadores encontraron que la mayoría de los agentes muestran tasas de cumplimiento bajas, inferiores al 5%, cuando se les instruye para realizar el raspado en dichos sitios.
Esta noticia es un resumen. La versión completa y verificable está en la fuente original:
Leer el original en Hugging Face Papers ↗