AI ஏஜெண்டுகள்: கட்டுக்கடங்காத வேகமா அல்லது கண்காணிக்கப்படும் வளர்ச்சியா?

நவீனத் தொழில்துறையில் AI ஏஜெண்டுகள் மனிதத் தலையீடின்றி பல பணிகளைச் செய்கின்றன. ஆனால், அவற்றின் செயல்பாடுகளைக் கண்காணிக்கத் தவறினால், சட்டரீதியான சிக்கல்களும், பாதுகாப்பு அச்சுறுத்தல்களும் ஏற்படும் என ஐடி (IT) வல்லுநர்கள் எச்சரிக்கின்றனர்.

🇪🇺 ஐரோப்பிய ஒன்றியத்தின் ‘AI சட்டம்’ (EU AI Act): ஏன் முக்கியம்?

வரும் ஆகஸ்ட் மாதம் முதல் ஐரோப்பிய ஒன்றியத்தின் AI சட்டம் (EU AI Act) நடைமுறைக்கு வருகிறது. குறிப்பாக நிதி பரிவர்த்தனைகள், தனிநபர் தரவுகள் போன்ற ‘அதி-ஆபத்தான’ (High-risk) துறைகளில் AI-ஐப் பயன்படுத்தும்போது, முறையான நிர்வாகக் கட்டுப்பாடு இல்லையெனில் மிகக் கடுமையான அபராதங்கள் விதிக்கப்படும்.

🛡️ ஐடி தலைவர்கள் கவனிக்க வேண்டிய 5 முக்கிய அம்சங்கள்

1. ஏஜெண்ட் அடையாளப் பதிவு (Agent Identity): ஒவ்வொரு AI ஏஜெண்டிற்கும் தனித்துவமான அடையாளம் மற்றும் அதன் திறன்கள், அனுமதி (Permissions) குறித்த தெளிவான பட்டியல் இருக்க வேண்டும்.

2. மாற்ற முடியாத பதிவுகள் (Immutable Logs): பிளாக்செயின் தொழில்நுட்பத்தைப் போல, AI செய்யும் ஒவ்வொரு செயலையும் யாராலும் திருத்த முடியாத வகையில் டிஜிட்டல் முறையில் பதிவு செய்ய வேண்டும்.

3. மனித மேற்பார்வை (Human Oversight): AI எடுக்கும் முடிவுகளை ஒரு மனிதர் ஆய்வு செய்து, தேவைப்பட்டால் அதை நிராகரிக்கும் அதிகாரம் கொண்டிருக்க வேண்டும். வெறும் ‘ஸ்கோர்’களை மட்டும் பார்க்காமல், சூழலைப் புரிந்து முடிவு எடுக்கும் வசதி அவசியம்.

4. உடனடி முடக்கம் (Rapid Revocation): ஏதேனும் தவறு நடக்கும் பட்சத்தில், சில வினாடிகளுக்குள் அந்த AI ஏஜெண்டின் அதிகாரத்தை ரத்து செய்து, அதன் செயல்பாட்டை முடக்கும் தொழில்நுட்ப வசதி இருக்க வேண்டும்.

5. விளக்கக்கூடிய தன்மை (Interpretability): ஒரு AI ஏஜெண்ட் ஏன் அந்த முடிவை எடுத்தது என்பதை எளிதில் புரிந்துகொள்ளும் வகையில் அதன் செயல்பாடுகள் இருக்க வேண்டும். இது ஒரு ‘மர்மப் பெட்டி’யாக (Opaque code blob) இருக்கக் கூடாது.

🧩 மல்டி-ஏஜெண்ட் சிக்கல்கள்

ஒன்றுக்கும் மேற்பட்ட AI ஏஜெண்டுகள் இணைந்து செயல்படும்போது, ஒரு ஏஜெண்ட் செய்யும் தவறு சங்கிலித் தொடர் விளைவுகளை ஏற்படுத்தும். எனவே, இத்தகைய அமைப்புகளை உருவாக்கும்போதே பாதுகாப்பு கொள்கைகளைத் தீவிரமாகச் சோதிக்க வேண்டும்.

🔭 எதிர்காலப் பார்வை

பொருளாதார வளர்ச்சியில் AI-ன் பங்கு தவிர்க்க முடியாதது. ஆனால், முக்கியமான தரவுகளைக் கையாளும் தொழில்நுட்பம் கொள்கைகளால் கட்டுப்படுத்தப்பட வேண்டும்; தணிக்கைக்கு உட்பட்டதாக இருக்க வேண்டும்; தேவைப்படும்போது நிறுத்தப்பட வேண்டும். இவை சரியாக அமையாத பட்சத்தில், அந்தத் தொழில்நுட்பம் பாதுகாப்பானது என்று சொல்ல முடியாது.