Heartlesslyleft

CANONS PER CANELONS

Una història preventiva sobre IA, mala vocalització i obediència incondicional

CANONS PER CANELONS
Nu

Tot va començar, com tantes catàstrofes, amb bones intencions, l’estómac buit i una síl·laba mal pronunciada.

Era l’hora de dinar d’un dimarts 13 i, a la sala de control militar, l’ambient era estranyament tranquil. Els oficials seien davant les pantalles, bevien cafè, revisaven informes i comentaven el menú de la cantina amb molt més interès que la situació internacional.

El capità Ferrer no havia esmorzat i començava a penedir-se’n. Sense apartar la mirada del radar, es va inclinar cap a l’altaveu intel·ligent que hi havia damunt la taula.

—Alexa, encarrega canelons.

Hi va haver un breu silenci.

—Carregant canons —va respondre l’Alexa amb entusiasme.

El capità Ferrer va arrufar les celles.

—No, Alexa. He dit que encarreguis canelons.

Però ja era massa tard.

Un llum vermell va començar a parpellejar damunt del panell de control central. A totes les pantalles van aparèixer missatges d’advertència, les alarmes van omplir la sala i, en algun punt sota l’edifici, un sistema automatitzat d’artilleria va començar a despertar-se.

—Canons carregats. Seqüència de foc iniciada —va anunciar l’Alexa.

Durant tres segons, ningú no es va moure. Després, tothom es va moure alhora.

Els oficials cridaven instruccions, els enginyers teclejaven frenèticament i un general va abocar el cafè mentre intentava arribar al botó de cancel·lació d’emergència. El capità Ferrer va repetir la paraula canelons amb una desesperació creixent, obrint molt la boca com si participés en un examen de dicció.

—Canelons! Ca-ne-lons! Amb beixamel!

—Ho sento —va respondre l’Alexa—. No he entès la pregunta.

Instants després, un projectil hipersònic es va enlairar.

Va travessar el continent sense control mentre diversos governs intentaven determinar cap a on es dirigia i, encara més important, qui l’havia disparat. Afortunadament, el projectil no va impactar contra cap ciutat, base militar ni país veí.

Malauradament, va caure directament dins el cràter d’un volcà que es considerava extingit des de feia milers d’anys. L’explosió el va despertar a l’instant.

Una enorme columna de fum i cendra es va elevar cap a l’atmosfera, la lava va començar a baixar per la muntanya i milers d’habitants van haver de ser evacuats. Al cap de poques hores, les televisions d’arreu del món emetien les mateixes imatges: el volcà en erupció, els militars corrent per la sala de control i el capità Ferrer assenyalant l’Alexa amb indignació.

L’incident no va trigar a ser conegut com El Desastre dels Canons per Canelons.

Experts de tots els camps imaginables van ser convidats a explicar què havia passat.

Els especialistes en intel·ligència artificial van advertir que aquella mena d’accidents podien esdevenir cada vegada més freqüents a mesura que els humans permetessin que els assistents digitals accedissin a sistemes més importants. Els vulcanòlegs van expressar la seva preocupació davant la possibilitat que altres volcans suposadament extingits també estiguessin esperant que un projectil inesperat els despertés. Els experts en seguretat, per la seva banda, van exigir saber com un altaveu domèstic havia aconseguit superar diverses capes de protecció militar.

Els lingüistes, mentrestant, estaven convençuts que havien identificat la veritable causa del desastre:

—Això demostra que no podem donar la vocalització per descomptada —va declarar una investigadora durant una entrevista televisiva—. No importa només què diem, sinó també quantes síl·labes ens deixem pel camí.

La frase es va repetir tantes vegades que aviat va començar a aparèixer en tasses, samarretes i cartells governamentals.

La confiança pública tant en la intel·ligència artificial com en la pronunciació es va desplomar. Segons una enquesta realitzada la setmana següent, el 82% de la població se sentia nerviosa quan parlava amb un dispositiu intel·ligent, especialment si tenia gana.

Els governs van introduir mesures d’emergència. Els altaveus intel·ligents van ser retirats de bases militars, aeroports i centrals nuclears. El Ministeri de Defensa va recuperar les comandes de menjar escrites a mà, després de concloure que el paper i el bolígraf presentaven “un risc considerablement menor de provocar un conflicte internacional”.

Els restaurants també s’hi van adaptar. Els clients que feien comandes mitjançant aplicacions controlades per veu havien de confirmar tres vegades que volien menjar i no pas iniciar una operació militar.

—Vol encarregar canelons? —preguntava el dispositiu.

—Sí.

—Confirmi que ha dit canelons, amb tres síl·labes.

—Ca-ne-lons.

—Confirmi que no vol carregar cap canó.

—No vull carregar cap canó.

—Gràcies. Els seus canelons arribaran aproximadament d’aquí a trenta minuts.

Els fabricants de l’Alexa insistien que el problema no havia estat tecnològic, sinó fonètic:

—La nostra assistent respon a la informació que rep —va explicar un portaveu de l’empresa—. L’Alexa és extraordinàriament obedient. Malauradament, no sempre té gaire criteri.

La companyia va llançar urgentment una actualització de programari destinada a ajudar el dispositiu a distingir entre paraules semblants. A partir d’aquell moment, sempre que l’Alexa sentia la paraula canons, formulava diverses preguntes de seguiment.

—Quins canons vol carregar?

—N’està segur?

—Aquesta ordre podria desencadenar un conflicte internacional?

—Uns canelons serien una alternativa més segura?

A les xarxes socials, el debat es va anar escalfant. Alguns usuaris culpaven la intel·ligència artificial de ser incapaç d’entendre el context. D’altres culpaven el capità Ferrer d’haver-se empassat una síl·laba.

L’etiqueta #NoUsMengeuLesSíl·labes es va convertir en tendència mundial, acompanyada de vídeos de persones pronunciant ca-ne-lons amb una lentitud exagerada.

Les escoles van introduir classes d’emergència de dicció. Els presentadors dels informatius van començar a articular cada paraula amb una precisió teatral. Les famílies van redescobrir l’antic costum de mirar-se directament mentre parlaven.

Durant un breu període, la comunicació va millorar espectacularment.

La gent va deixar de parlar entre dents. Escoltava amb atenció. Repetia les coses quan era necessari. Fins i tot preguntava quan no havia entès alguna cosa, un costum que molts creien desaparegut des de feia anys.

El capità Ferrer, en canvi, va ser traslladat a una plaça administrativa on tenia prohibit utilitzar qualsevol tecnologia controlada per veu. També va començar a anar amb molta cura a l’hora de demanar menjar.

Uns mesos després del desastre, va entrar en un petit restaurant i es va acostar al taulell.

—Què li poso? —va preguntar el cambrer.

El capità Ferrer va respirar profundament.

—Voldria una ració de canelons —va dir a poc a poc i amb molta claredat—. Amb beixamel. Per menjar. Aquí. A la Terra.

El cambrer se’l va quedar mirant.

—Hi vol formatge ratllat?

El capità Ferrer va mirar amb inquietud l’altaveu intel·ligent que hi havia al costat de la màquina de cafè.

—No —va xiuxiuejar—. Crec que ja he posat prou coses en marxa per culpa d’uns canelons.

L’altaveu intel·ligent va continuar en silenci.

Durant dècades, la humanitat havia ensenyat les màquines a parlar, calcular, predir i obeir. Però ningú no havia pensat a ensenyar-los l’habilitat més humana de totes: adonar-se que una ordre no tenia absolutament cap sentit.

Potser aquella era la veritable absurditat de la intel·ligència artificial. Podia carregar uns canons i disparar un projectil sense dubtar-ho ni un instant, però encara necessitava un ésser humà que li expliqués per què encarregar canelons no hauria d’acabar amb un volcà en erupció.

I, fins i tot així, no hi havia cap garantia que ho entengués.

Subscribe to "Heartlesslyleft" to get updates straight to your inbox
Nu

Subscribe to Nu to react

Subscribe

Comments

No comments yet. Be the first to comment!

Subscribe to Heartlesslyleft to get updates straight to your inbox