AI இன் கறுப்புப் பெட்டி: ஒரு புரியாத புதிரா?

செயற்கை நுண்ணறிவு (AI) தொழில்நுட்பம் நமது அன்றாட வாழ்வில் பெருகிய முறையில் ஆதிக்கம் செலுத்தி வருகிறது. ஸ்மார்ட்போன்களில் உள்ள வாய்ஸ் அசிஸ்டென்ட்கள் முதல், மருத்துவ நோய் கண்டறிதல்கள், நிதிச் சந்தை கணிப்புகள் மற்றும் தன்னாட்சி வாகனங்கள் வரை AI இன் பயன்பாடுகள் விரிவடைந்துள்ளன. AI அமைப்புகள் நம்பமுடியாத அளவிற்கு துல்லியமான முடிவுகளையும், திறமையான செயல்பாடுகளையும் வழங்குகின்றன. ஆனால், இந்தக் கணிசமான வளர்ச்சியின் மத்தியில், ஒரு முக்கியமான கேள்வி எழுகிறது: இந்த AI அமைப்புகள் தங்கள் முடிவுகளை எவ்வாறு எட்டுகின்றன? பல சந்தர்ப்பங்களில், இந்தக் கேள்விக்கான பதில் ஒரு “கறுப்புப் பெட்டி” (Black Box) போல, நமக்குத் தெரியாத, புரியாத புதிராகவே உள்ளது.

கறுப்புப் பெட்டி என்றால் என்ன?

AI இன் சூழலில், “கறுப்புப் பெட்டி” என்பது, ஒரு உள்ளீட்டை எடுத்துக்கொண்டு ஒரு வெளியீட்டை (முடிவு அல்லது கணிப்பு) வழங்கும் ஒரு அமைப்பைக் குறிக்கிறது. ஆனால், அந்த உள்ளீடு வெளியீடாக மாறுவதற்குள், உள்ளே என்ன நடக்கிறது என்பதை நம்மால் புரிந்துகொள்ளவோ, விளக்கவோ முடியாது. அதாவது, AI இன் “சிந்தனை செயல்முறை” அல்லது “முடிவெடுக்கும் லாஜிக்” வெளிப்படையாகவோ, மனிதர்களால் புரிந்துகொள்ளக்கூடிய வகையிலோ இருப்பதில்லை.

குறிப்பாக, ஆழமான கற்றல் (Deep Learning) மாதிரிகள் மற்றும் சிக்கலான நரம்பியல் வலைப்பின்னல்கள் (Neural Networks) தான் இந்த கறுப்புப் பெட்டி சிக்கலின் மையமாக உள்ளன. இந்த மாதிரிகள் லட்சக்கணக்கான அல்லது பல்லாயிரக்கணக்கான அளவுருக்களை (parameters) கொண்டுள்ளன. பயிற்சித் தரவுகளைக் (training data) கொண்டு இந்த அளவுருக்கள் தாங்களாகவே சரிசெய்யப்படுகின்றன. இறுதியில், ஒரு உள்ளீட்டைப் பெறும் போது, இந்த சிக்கலான அளவுருக்களின் மூலம் தரவுகள் கடத்தப்பட்டு ஒரு முடிவை அடைகின்றன. இந்த உள்ளகச் செயல்முறையை மனித மூளையால் முழுமையாகப் புரிந்துகொள்வது கிட்டத்தட்ட சாத்தியமற்றது.

ஏன் இது ஒரு சிக்கல்?

AI இன் கறுப்புப் பெட்டி தன்மை பல சிக்கல்களையும் சவால்களையும் உருவாக்குகிறது:

1. நம்பகத்தன்மை மற்றும் நம்பிக்கை: ஒரு AI அமைப்பு ஒரு முக்கியமான முடிவை எடுக்கும்போது, உதாரணமாக ஒரு நோயாளியின் புற்றுநோயைக் கண்டறியும் போது, அந்த முடிவை AI ஏன் எடுத்தது என்பதை மருத்துவரால் விளக்க முடியாவிட்டால், அந்த அமைப்பின் மீது நம்பிக்கை வைப்பது கடினம். ஒரு தவறான முடிவு ஏற்பட்டால், அதை சரிசெய்வது எப்படி அல்லது பிழை எங்கு நடந்தது என்பதைக் கண்டறிவது சவாலாகிவிடும்.
2. பொறுப்புக்கூறல் (Accountability): ஒரு AI அமைப்பு ஒரு முக்கியமான முடிவால் எதிர்மறையான விளைவுகளை ஏற்படுத்தும் போது (உதாரணமாக, ஒரு தன்னாட்சி வாகனம் விபத்தை ஏற்படுத்தும் போது), அதற்கு யார் பொறுப்பு? AI இன் முடிவெடுக்கும் செயல்முறை வெளிப்படையாக இல்லாததால், பிழையின் மூலத்தைக் கண்டறிவதும், பொறுப்பைக் கூறவும் கடினமாகிறது.
3. சார்புநிலை (Bias) மற்றும் நியாயம் (Fairness): AI மாதிரிகள் பயிற்சி தரவுகளிலிருந்து கற்றுக்கொள்கின்றன. இந்தத் தரவுகளில் உள்ள சார்புநிலைகள் (மனிதச் சமூகத்தில் இருக்கும் பாலினம், இனம், சமூக-பொருளாதார நிலை போன்ற பாகுபாடுகள்) AI மாதிரிகளுக்கும் கடத்தப்படலாம். ஒரு கறுப்புப் பெட்டி AI, பாகுபாடு நிறைந்த முடிவுகளை எடுத்தால், அந்தப் பாகுபாடு ஏன் ஏற்பட்டது என்பதை கண்டறிந்து சரிசெய்வது மிகவும் கடினம். இது நியாயமான முடிவுகளை உறுதி செய்வதற்கான முயற்சிகளைப் பாதிக்கிறது.
4. ஒழுங்குமுறை மற்றும் சட்ட அமலாக்கம்: AI இன் கறுப்புப் பெட்டி தன்மை, அதைக் கட்டுப்படுத்துவதற்கும், சட்டப்பூர்வமாக ஒழுங்குபடுத்துவதற்கும் பெரும் சவாலாக உள்ளது. AI இன் செயல்பாடுகளை ஆய்வு செய்ய முடியாவிட்டால், அதை எப்படி நியாயமானதாகவும், பாதுகாப்பானதாகவும் பயன்படுத்துவதை உறுதிப்படுத்துவது?
5. புதுமைகளின் தடை: சில சமயங்களில், ஒரு AI மாடல் எவ்வாறு செயல்படுகிறது என்பதைப் புரிந்துகொள்ள முடிந்தால், அதை மேலும் மேம்படுத்தவும், புதிய கண்டுபிடிப்புகளை மேற்கொள்ளவும் முடியும். கறுப்புப் பெட்டித் தன்மை இந்த வகை ஆய்வுக்குத் தடையாக இருக்கலாம்.

தீர்வுகள் மற்றும் எதிர்காலப் பாதை: விளக்கக்கூடிய AI (Explainable AI – XAI)

AI இன் கறுப்புப் பெட்டி சிக்கலைத் தீர்க்க அல்லது குறைப்பதற்கான முயற்சிகள் நடந்து வருகின்றன. இது “விளக்கக்கூடிய AI” (Explainable AI – XAI) என்ற துறையின் கீழ் வருகிறது. XAI இன் நோக்கம், AI அமைப்புகளின் முடிவுகள் மற்றும் செயல்பாடுகளை மனிதர்களால் புரிந்துகொள்ளக்கூடிய மற்றும் விளக்கக்கூடிய வகையில் மாற்றுவது ஆகும்.

XAI இன் கீழ் பயன்படுத்தப்படும் சில நுட்பங்கள்:

• LIME (Local Interpretable Model-agnostic Explanations): ஒரு குறிப்பிட்ட கணிப்பை AI ஏன் செய்தது என்பதை உள்ளூர் அளவில் விளக்கும் முறை.
• SHAP (SHapley Additive exPlanations): ஒவ்வொரு உள்ளீட்டு அம்சமும் ஒரு கணிப்பில் எவ்வளவு பங்களிக்கிறது என்பதை விளக்கும் முறை.
• எளிமையான மாதிரிகளைப் பயன்படுத்துதல்: சில சமயங்களில், மிகவும் சிக்கலான மாதிரிகளுக்குப் பதிலாக, விளக்கக்கூடிய (Interpretable) முடிவுகளைத் தரும் எளிமையான மாதிரிகளைப் பயன்படுத்துவது.
• பார்வைப்படுத்தல் (Visualization): AI இன் உள்ளகச் செயல்பாடுகளைப் படங்களாக அல்லது வரைபடங்களாகக் காட்டுவதன் மூலம் புரிந்துகொள்ள முயற்சிப்பது.

முடிவுரை:

AI இன் “கறுப்புப் பெட்டி” சிக்கல் செயற்கை நுண்ணறிவுத் துறையில் ஒரு பெரிய சவால். இது தொழில்நுட்பத்தின் மீதான நம்பிக்கையை பாதிப்பதுடன், நீதி, நியாயம் மற்றும் பொறுப்புக்கூறல் போன்ற முக்கியமான சமூக அம்சங்களிலும் தாக்கத்தை ஏற்படுத்துகிறது. விளக்கக்கூடிய AI (XAI) போன்ற முயற்சிகள் இந்த சவாலை எதிர்கொள்ள முக்கியமான படிகள். AI இன் முழுமையான திறனை சமூகத்திற்கு நன்மை பயக்கும் வகையில் பயன்படுத்த வேண்டுமானால், அதன் முடிவெடுக்கும் செயல்முறைகளை மேலும் வெளிப்படையானதாகவும், மனிதர்களால் புரிந்துகொள்ளக்கூடியதாகவும் மாற்றுவது அவசியம். AI இன் மர்மங்களை அவிழ்ப்பது, அதன் வளர்ச்சிக்கும், மனிதகுலத்தின் எதிர்காலத்திற்கும் மிகவும் முக்கியமானது.

தமிழ்செல்வி