Berliner Boersenzeitung - Hola chatbot, "¿esto es verdad?": la verificación con IA genera desinformación

EUR -
AED 4.333338
AFN 82.488788
ALL 97.919392
AMD 452.497189
ANG 2.111652
AOA 1082.007258
ARS 1450.456918
AUD 1.792982
AWG 2.123897
AZN 2.02147
BAM 1.955788
BBD 2.375985
BDT 143.919106
BGN 1.956105
BHD 0.44478
BIF 3505.448513
BMD 1.179943
BND 1.498978
BOB 8.130949
BRL 6.404491
BSD 1.176793
BTN 100.814374
BWP 15.616903
BYN 3.850976
BYR 23126.87632
BZD 2.363685
CAD 1.603218
CDF 3404.135317
CHF 0.934108
CLF 0.028481
CLP 1092.933864
CNY 8.454762
CNH 8.450832
COP 4708.856208
CRC 594.496307
CUC 1.179943
CUP 31.268481
CVE 110.264315
CZK 24.661942
DJF 209.548698
DKK 7.461621
DOP 69.929566
DZD 153.021112
EGP 58.232132
ERN 17.69914
ETB 162.332791
FJD 2.634456
FKP 0.859862
GBP 0.864533
GEL 3.208952
GGP 0.859862
GHS 12.178924
GIP 0.859862
GMD 84.366183
GNF 10200.850173
GTQ 9.047944
GYD 246.188471
HKD 9.262379
HNL 30.754809
HRK 7.532281
HTG 154.447732
HUF 400.168706
IDR 19117.726115
ILS 3.978419
IMP 0.859862
INR 101.117488
IQD 1541.490423
IRR 49705.085054
ISK 142.796388
JEP 0.859862
JMD 188.118831
JOD 0.836568
JPY 169.379577
KES 152.342203
KGS 103.186229
KHR 4722.930631
KMF 493.215954
KPW 1061.93069
KRW 1598.851788
KWD 0.360024
KYD 0.980694
KZT 610.246209
LAK 25360.842441
LBP 105436.144957
LKR 352.937807
LRD 235.938534
LSL 20.788071
LTL 3.484064
LVL 0.713735
LYD 6.336961
MAD 10.578034
MDL 19.774877
MGA 5179.967818
MKD 61.514191
MMK 2476.982156
MNT 4227.965591
MOP 9.514841
MRU 46.74571
MUR 52.826342
MVR 18.159741
MWK 2040.587322
MXN 22.160151
MYR 4.979302
MZN 75.468973
NAD 20.788071
NGN 1804.012516
NIO 43.299364
NOK 11.874849
NPR 161.302998
NZD 1.937879
OMR 0.45363
PAB 1.176693
PEN 4.190974
PGK 4.856929
PHP 66.649052
PKR 335.665815
PLN 4.263436
PYG 9385.941688
QAR 4.290273
RON 5.062664
RSD 117.131258
RUB 93.126194
RWF 1690.389498
SAR 4.425104
SBD 9.837093
SCR 16.600756
SDG 708.560496
SEK 11.232145
SGD 1.501855
SHP 0.92725
SLE 26.48955
SLL 24742.812129
SOS 672.495822
SRD 44.064985
STD 24422.430961
SVC 10.296936
SYP 15341.454619
SZL 20.783871
THB 38.182569
TJS 11.508529
TMT 4.141599
TND 3.425779
TOP 2.763547
TRY 47.08113
TTD 7.97995
TWD 34.20075
TZS 3105.065121
UAH 49.134895
UGX 4220.973776
USD 1.179943
UYU 46.559711
UZS 14916.907326
VES 129.172456
VND 30879.099658
VUV 140.679661
WST 3.224778
XAF 655.952925
XAG 0.032415
XAU 0.000353
XCD 3.188854
XDR 0.815795
XOF 655.952925
XPF 119.331742
YER 285.723507
ZAR 20.724277
ZMK 10620.902842
ZMW 28.273824
ZWL 379.941058
Hola chatbot, "¿esto es verdad?": la verificación con IA genera desinformación
Hola chatbot, "¿esto es verdad?": la verificación con IA genera desinformación / Foto: Lionel BONAVENTURE - AFP

Hola chatbot, "¿esto es verdad?": la verificación con IA genera desinformación

Cuando la desinformación se disparó durante los cuatro días de conflicto entre India y Pakistán, los usuarios de redes sociales recurrieron a un chatbot de inteligencia artificial (IA) para verificar los hechos, pero se encontraron con más falsedades, lo que subraya su poca fiabilidad como herramienta de verificación de datos.

Tamaño del texto:

Con la reducción de verificadores humanos en las plataformas tecnológicas, los usuarios recurren cada vez más a los chatbots basados en IA -como Grok, de xAI, ChatGPT, de OpenAI, y Gemini, de Google- en busca de información fiable.

"Hola @Grok, ¿esto es verdad?", se ha convertido en una pregunta habitual en la plataforma X de Elon Musk, donde el asistente de IA está integrado, lo que refleja la creciente tendencia a buscar desmentidos al instante en las redes sociales.

Pero las respuestas suelen estar plagadas de desinformación.

Grok, ahora bajo un nuevo escrutinio por insertar "genocidio blanco", una teoría conspirativa de extrema derecha, en consultas que no están relacionadas con ello, identificó erróneamente un antiguo video del aeropuerto de Jartum, en Sudán, como un ataque con misiles contra la base aérea Nur Khan de Pakistán durante el reciente conflicto de ese país con India.

Las grabaciones de un edificio en llamas en Nepal se identificaron erróneamente como que "probablemente" fueran la respuesta militar de Pakistán a los ataques indios.

"La creciente confianza en Grok como verificador de datos se produce cuando X y otras grandes empresas tecnológicas han reducido sus inversiones en verificadores de datos humanos", declaró a la AFP McKenzie Sadeghi, investigadora del organismo de vigilancia de la desinformación NewsGuard.

"Nuestras investigaciones han demostrado repetidamente que los chatbots de IA no son fuentes fiables de noticias e información, especialmente cuando se trata de noticias de actualidad", advirtió.

- Repetir falsedades -

La investigación de NewsGuard reveló que 10 de los principales chatbots eran propensos a repetir falsedades, incluidas narrativas de desinformación rusa.

En un estudio reciente de ocho herramientas de búsqueda con IA, el Centro Tow para el Periodismo Digital de la Universidad de Columbia descubrió que los chatbots eran "generalmente malos para declinar preguntas que no podían responder con precisión, ofreciendo en su lugar respuestas incorrectas o especulativas".

Cuando los verificadores digitales de la AFP en Uruguay preguntaron a Gemini sobre una imagen de una mujer generada por IA, no solo confirmó su autenticidad, sino que inventó detalles sobre su identidad y el lugar donde probablemente se tomó la imagen.

Hace poco, Grok calificó de "auténtico" un supuesto video de una anaconda gigante nadando en el río Amazonas, citando incluso expediciones científicas que parecían creíbles para apoyar su falsa afirmación.

En realidad, el video fue generado por IA, reportaron los verificadores de la AFP en América Latina, que señalaron que muchos usuarios citaron la evaluación de Grok como prueba de que el clip era real.

Estos hallazgos han suscitado preocupación, ya que las encuestas muestran que los usuarios están cambiando cada vez más los motores de búsqueda tradicionales por chatbots de IA para recopilar y verificar información.

Este cambio también coincide con el anuncio de Meta, a principios de este año, de poner fin al programa de verificación digital externo en Estados Unidos, y trasladó la tarea de desmentir las falsedades a los usuarios mediante las llamadas "notas de la comunidad", un mecanismo popularizado por X.

- "Respuestas sesgadas" -

La verificación digital realizada por personas ha sido durante mucho tiempo un punto álgido en un clima político hiperpolarizado, particularmente en Estados Unidos, donde los grupos conservadores sostienen que suprime la libertad de expresión y censura el contenido de derecha, algo que los verificadores profesionales rechazan con vehemencia.

AFP trabaja actualmente en 26 idiomas con el programa de verificación de datos de Facebook, incluyendo Asia, Latinoamérica y la Unión Europea.

La calidad y la precisión de los chatbots de IA pueden variar, dependiendo de cómo se entrenan y programan, lo que genera preocupación de que sus resultados puedan estar sujetos a influencia o control político.

xAI, de Musk, atribuyó a una "modificación no autorizada" la generación de publicaciones no solicitadas por Grok que hacían referencia al "genocidio blanco" en Sudáfrica.

Cuando el experto en IA David Caswell le preguntó a Grok quién podría haber modificado su sistema, el chatbot señaló a Musk como el culpable "más probable".

Musk, el multimillonario sudafricano partidario del presidente Donald Trump, ya había afirmado previamente que los líderes de Sudáfrica estaban "incitando abiertamente al genocidio" de la población blanca.

"Hemos visto cómo los asistentes de inteligencia artificial pueden falsificar resultados o dar respuestas sesgadas después de que programadores humanos modifiquen específicamente sus instrucciones", declaró a la AFP Angie Holan, directora de la Red Internacional de Verificación de Datos.

"Me preocupa especialmente la forma en que Grok ha gestionado incorrectamente solicitudes sobre asuntos muy sensibles tras recibir instrucciones para proporcionar respuestas preautorizadas".

burs-ac/nl/db/val

(U.Gruber--BBZ)