Rogatur machina de libro quodam. Titulum, auctorem, editorem, annum — omnia verisimilia redduntur. Nihil tamen exstat.
Hoc in mundo intelligentiae artificialis hallucinatio dicitur. Et est unum ex gravissimis problematibus machinarium linguisticarum nostrorum temporum.
Quid ergo accidit?
Magna exemplaria linguistica (LLM — Magnum Exemplar Linguisticum) ut ChatGPT, Claude vel Gemini non ut instrumenta inquisitoria operantur. Facta in tabulario non quaerunt. Immo ex ingentibus textuum copiis discunt quomodo lingua functur — quae verba quibus sequantur, quae responsa quibus quaestionibus conveniant.
Eventus mirabilis est ac fluens. Sed latet insidiae: machina saepe nescit utrum aliquid verum sit. Scit tantum quomodo sonet.
Si de libro rogo quem machina non novit, librum non fingit ut me fallat. Fingit quia "Titulus — Auctor — Editor — Annus" est forma quae post "Quis liber…?" sequitur. Machina formam complet. An res exstet: hoc secundarium est.
Cur tam persuasive sonat?
Hoc est quod vere perturbat. Machinae non timide hallucinantur. Eadem confidentia loquuntur ac cum vera dicunt.
Nullum "Nescio certe, sed..." Nulla haesitatio. Solum textus composite formatus — et falsus.
Hoc inde venit quod exemplaria linguistica ad textum cohaerentem et persuasivum producendum exercentur — non necessario verum. Incertitudinem exprimere exemplar deterius sonare faceret. Ergo id plerumque omittit.
Quid maxime fingere solent machinae?
- Fontes et citationes: tituli librorum, auctores, numeri DOI, studia — saepe omnino ficta
- Leges et paragraphi: iuridice recte sonant, sed non semper sunt
- Vitae hominum: de personis rebus veris qui tamen ita non stant
- Res recentes: praecipue si tempus institutionis longe abest
- Numeri specifici: statisticae, percentages, anni — verisimiles, sed non probati
Exemplum classicum: "Da mihi tria studia scientifica de X." Machina tria studia cum auctoribus et ephemeridibus tradit. Saltem unum non exstat. Interdum nullum.
Estne vitium?
Minime — et hoc est responsum incommodum. Hallucinationes non sunt error qui facile sanari potest. Est condicio structuralis.
Exemplaria linguistica ad textum complendum designata sunt. Ad hoc probatio factorum non requiritur. Machinae hodiernae multo accuratiores sunt quam ante tres annos — sed numquam perfectae. Et fortasse numquam erunt.
OpenAI, Anthropic, Google — omnes laborant ut hallucinationes minuant. Generatio aucta receptione (RAG — Retrieval-Augmented Generation) exemplaria sinit fontes reales quaerere antequam respondeant. Hoc multum prodest. Sed problema fundamentale non omnino solvit.
Quid ergo prudens facere debet?
Regula simplex: machinae fide ut discipulo primo die. Alacri, eloquenti, saepe utili — et interdum plane erranti.
Concretius:
Facta cum consequentiis semper ipse proba. Leges, medicina, fontes pro thesibus — numquam caece accipe.
Numeri specifici signum periculi sunt. Quo concretius (ISBN, paragraphus, percentagium), eo maius periculum fictionis.
Fontes rogato — et vere proba. Noli credere fontes citatos existere.
Machina utere ubi errores ante damnum apparent. Textus primarii, idearum collectio, structurae — hic hallucinationes contineri possunt.
Perplexity melius facit, quia fontes ex rete vere accipit et citat. Sed etiam ibi: proba.
Quid ad vitam quotidianam pertinet?
Instrumenta intelligentiae artificialis, quamvis hallucinentur, valde utilia sunt. Ars est ea adhibere ad quae apta sunt.
Ad opus creativum, structurationem, primarias versiones: praeclara. Ad res facti criticas: semper gradum verificationis adde. Hoc non est testimonium diffidentiae — est usus peritus instrumenti quod et vires certas et fines claros habet.
Qui hoc intellegit, machinis melius utitur quam qui caece credit — et etiam quam qui omnino recusat.