டிஜிட்டல் மாயை:நிஜத்தை நிழலாக்கும் ‘ஹாலுசினேஷன்’ ஆபத்து!

செயற்கை நுண்ணறிவு உலகம் முழுவதும் பிரம்மாண்டமான புரட்சியை ஏற்படுத்தி வருகிறது. மனிதனின் பணிகளை எளிதாக்குவது முதல் கடினமான ஆய்வுகளுக்குத் தீர்வு காண்பது வரை AI-யின் பங்களிப்பு அசுர வளர்ச்சி கண்டுள்ளது. ஆனால், இந்தத் தொழில்நுட்பத்தின் பிரகாசமான வெளிச்சத்திற்குப் பின்னால், ஒரு ஆபத்தான நிழலும் மறைந்திருக்கிறது. அதுதான் ‘ஹாலுசினேஷன்’ (Hallucination) எனப்படும் AI உளறல். உண்மைக்கு முற்றிலும் மாறான, இல்லாத தரவுகளை மிகவும் உண்மையானதைப் போலவும், மிகுந்த நம்பிக்கையுடனும் AI உருவாக்கி வழங்கும் இந்த நிலை, இன்றைக்குத் தொழில்நுட்ப உலகில் பெரும் விவாதத்தைக் கிளப்பியுள்ளது.

ஹாலுசினேஷன் என்றால் என்ன?

மருத்துவத்துறையில் ‘ஹாலுசினேஷன்’ என்பது இல்லாத ஒன்றை இருப்பதாக உணரும் மனநோயைக் குறிக்கும். அதேபோல, செயற்கை நுண்ணறிவுத் தளங்கள் (Generative AI Models) தங்களுக்கு வழங்கப்படாத அல்லது உலகில் நடைமுறையிலேயே இல்லாத தகவல்களை, மிகவும் இயல்பாகவும் துல்லியமாகவும் பேசுவது போலப் புனைந்துரைப்பதே AI ஹாலுசினேஷன் எனப்படுகிறது.

உதாரணத்திற்கு, ஒரு குறிப்பிட்ட வரலாற்று நிகழ்வு பற்றியோ அல்லது சட்டப் புத்தகத்தில் இல்லாத ஒரு சட்டப் பிரிவு பற்றியோ நீங்கள் கேள்வி கேட்டால், AI தானாகவே ஒரு பொய்க் கதையையோ, தவறான புத்தகப் பெயரையோ, இல்லாத மேற்கோளையோ உருவாக்கி, அது முற்றிலும் உண்மைதான் என்பதைப் போல அச்சேற்றித் தரும்.

உளறல்களுக்கான பின்னணி அறிவியல்

AI என்பது மனிதனைப் போல யோசித்துச் சிந்திக்கும் ஆற்றல் கொண்டது அல்ல; மாறாக அது ஒரு புள்ளியியல் கணிப்புப் பொறி (Statistical Prediction Engine). ஒரு வாக்கியத்தில் அடுத்ததாக எந்த வார்த்தை வந்தால் சரியாக இருக்கும் என்பதை, அதற்குப் பயிற்சியளிக்கப்பட்ட கோடிக்கணக்கான தரவுகளின் (Training Data) அடிப்படையில் கணித்து வழங்கும்.

• தரவுக் குறைபாடுகள்: AI-க்கு வழங்கப்பட்ட பயிற்சியின் போது இடைவெளிகளோ, முரண்பாடுகளோ அல்லது தவறான தகவல்களோ இருந்தால், அது முடிவுகளைத் தவறாகக் கணிக்கும்.

• அதிகப்படியான ஆக்கம் (Over-optimization): ஒரு கேள்விக்கு “எனக்குத் தெரியாது” என்று சொல்வதை விட, ஏதேனும் ஒரு பதிலைக் கொடுக்க வேண்டும் என்ற நோக்கில் வடிவமைக்கப்பட்ட அல்காரிதம்கள், இல்லாத தகவல்களைப் புனைந்து விடுகின்றன.

சமூகத்தில் ஏற்படுத்தும் ஆபத்துகள்

AI வழங்கிடும் இந்தத் தவறான தகவல்கள் சாதாரண விஷயங்களில் பெரிய பாதிப்பை ஏற்படுத்தாது என்றாலும், முக்கிய துறைகளில் இது பேரழிவை உண்டாக்கக்கூடும்.

நீதிமன்றத்தில் வழக்கறிஞர் ஒருவர் AI தயாரித்துக் கொடுத்த சட்ட மேற்கோள்களைப் பயன்படுத்தி, இறுதியில் அந்த வழக்குகள் எல்லாமே பொய்யாகப் புனையப்பட்டவை எனத் தெரியவந்து அபராதம் விதிக்கப்பட்ட சம்பவங்கள் உலகளவில் நடந்துள்ளன. மருத்துவ ஆலோசனைகள், மருத்துவ ஆராய்ச்சிகள் மற்றும் செய்தி ஊடகங்களில் இத்தகைய தவறான தரவுகள் புகுந்தால், அது மிகப்பெரிய சமூகப் பேரழிவிற்கு வழிவகுக்கும்.

தொழில்நுட்ப நிறுவனங்களின் சவாலும் தீர்வும்

இன்றைய முன்னணி தொழில்நுட்ப நிறுவனங்களான கூகுள், ஓபன் ஏஐ, மெட்டா போன்ற அனைத்தும் இந்த ‘ஹாலுசினேஷன்’ சிக்கலைக் குறைப்பதையே தங்களின் முதல் இலக்காகக் கொண்டுள்ளன. RAG (Retrieval-Augmented Generation) என்ற தொழில்நுட்பம் மூலம், நேரடி இணையத் தரவுகளுடன் AI-ஐ இணைத்து உண்மையானத் தகவல்களைச் சரிபார்க்கும் முறைகள் மேம்படுத்தப்பட்டு வருகின்றன.

தொழில்நுட்பம் எவ்வளவுதான் வளர்ந்தாலும், AI தரும் தரவுகளை மனிதனின் பகுத்தறிவைக் கொண்டு சரிபார்ப்பதே (Human-in-the-loop) தற்போதைக்கு இதன் ஆபத்துகளில் இருந்து தப்பிப்பதற்கான ஒரே வழிமுறையாகும். AI என்பது மனித மூளைக்கு ஒரு துணையே தவிர, அதுவே முழுமையான மனித மூளை அல்ல என்பதை இந்த உளறல்கள் நமக்குத் தொடர்ந்து நினைவூட்டிக்கொண்டே இருக்கின்றன.