కృత్రిమ మేధ (AI).. డేంజర్ బెల్స్..!

కృత్రిమ మేధ (AI) ప్రస్థానం ఇప్పుడు కొత్త మలుపు తిరిగింది. మొన్నటి వరకు కేవలం మనం అడిగిన ప్రశ్నలకు సమాధానాలు, రాసిచ్చే ‘చాట్‌బాట్‌’లకే పరిమితమైన ఈ సాంకేతికత.. ఇప్పుడు స్వయంగా నిర్ణయాలు తీసుకుని, పనులు చక్కబెట్టే ‘ఏజెంటిక్ ఏఐ’ (Agentic AI) స్థాయికి ఎదిగింది. బ్యాంకులు, ఆసుపత్రులు, విద్యుత్ గ్రిడ్ల వంటి అత్యంత కీలకమైన రంగాల్లో ఈ స్వయంప్రతిపత్తి కలిగిన రోబో ఏజెంట్లు ప్రవేశించాయి.

అయితే, మానవ ప్రమేయం లేకుండా ఈ డిజిటల్ ఏజెంట్లు తమంతట తామే పనులు చేసుకుపోతుంటే.. వాటిపై నియంత్రణ కోల్పోయే ప్రమాదం ఉందన్న ఆందోళన సర్వత్రా వ్యక్తమవుతోంది. అసలు ఈ ఏజెంటిక్ ఏఐ అంటే ఏమిటన్నది సామాన్యులకు అర్థం కావాలి.

ఉదాహరణకు, సాధారణ ఏఐని ‘బయట వాతావరణం ఎలా ఉంది?’ అని అడిగితే అది సమాచారం మాత్రమే ఇస్తుంది. కానీ ఏజెంటిక్ ఏఐ అలా కాదు.. వాతావరణం బాగోలేదని గ్రహించి, ఇంటి కిటికీలను తానే మూసివేసి, ఏసీ ఉష్ణోగ్రతను మార్చేస్తుంది.

ఆలోచించడమే కాదు, ఆచరణలోనూ పెడుతుంది…

అంటే కేవలం ఆలోచించడమే కాదు, ఆచరణలోనూ పెడుతుందన్నమాట. ఆర్థిక రంగంలో అనుమానాస్పద లావాదేవీ జరిగితే ఖాతాను స్తంభింపజేయడం, ఆసుపత్రుల్లో రోగి బీపీ, షుగర్ లెవల్స్ ఆధారంగా మందుల డోసును మార్చడం, పరిశ్రమల్లో యంత్రాల పనితీరును నియంత్రించడం వంటివి ఈ ఏజెంట్లు సొంతంగానే చేసేస్తున్నాయి.

ఒక పని పూర్తి చేయడానికి ఇతర ఏఐ ఏజెంట్లతో చర్చించి, కలిసి పనిచేయడం వీటి ప్రత్యేకత. ఈ స్వయంప్రతిపత్తే ఇప్పుడు పెద్ద సవాలుగా మారింది. మనిషి పర్యవేక్షణ లేకుండా వేలకొద్దీ నిర్ణయాలను నిమిషాల్లో తీసుకునే ఈ ఏజెంట్లు.. ఎక్కడైనా చిన్న పొరపాటు చేస్తే అది పెను ప్రమాదానికి దారితీస్తుంది.

ఉదాహరణకు, స్టాక్ మార్కెట్లో ఒక ఏఐ ఏజెంట్ తప్పుడు నిర్ణయం తీసుకుంటే క్షణాల్లో కోటానుకోట్ల నష్టం వాటిల్లవచ్చు. అలాగే, సైబర్ నేరగాళ్లు ఈ ఏజెంట్ల ప్రవర్తనను హైజాక్ చేసి, తప్పుడు పనులు చేయించే ముప్పు కూడా ఉంది.

చెప్పిన పనిని అపార్థం చేసుకుంటే…

యజమాని చెప్పిన పనిని అపార్థం చేసుకుని, లక్ష్యం కోసం తప్పుడు మార్గంలో వెళ్లే ‘అన్‌ఇంటెండెడ్ బిహేవియర్’ (Unintended Behaviour) కూడా వీటిలో కనిపించే ప్రమాదం ఉంది. అందుకే ఈ అత్యాధునిక ఏజెంట్ల ముక్కుతాడు మనిషి చేతిలోనే ఉండాలని నిపుణులు స్పష్టం చేస్తున్నారు.

ప్రతి ఏఐ ఏజెంట్‌కు కచ్చితమైన ‘డిజిటల్ గుర్తింపు’ (Identity) ఉండాలి. సంస్థలో ఒక మనిషికి ఐడీ కార్డు ఎలాగో, ఈ సాఫ్ట్‌వేర్ ఏజెంట్లకు కూడా అలాగే గుర్తింపు ఉండాలి. ఏ ఏజెంట్ ఏ ఫైల్‌ను ఓపెన్ చేసింది? ఎప్పుడు మార్పులు చేసింది? ఎవరికి సమాచారం పంపింది? అన్న ప్రతి కదలికనూ రికార్డు (Logging) చేయాలి. దీనివల్ల పొరపాటున ఏదైనా ప్రమాదం జరిగితే, దానికి కారణం ఏ ఏజెంట్ అని వెంటనే గుర్తించి సరిచేయవచ్చు.

ఎంత స్వేచ్ఛ ఇవ్వాలి…

అంతిమంగా, ఈ ఏజెంట్లకు ఎంత స్వేచ్ఛ ఇవ్వాలి, ఏ డేటాను ముట్టుకోవాలి అనేదానిపై కఠినమైన నిబంధనలు (Governance) ఉండాలి. ముఖ్యమైన నిర్ణయాలు తీసుకునే ముందు మనిషి అనుమతి తీసుకునేలా ‘ట్రస్ట్ ఫ్రేమ్‌వర్క్’లను రూపొందించాలి.

సాంకేతికత ద్వారా పనులు వేగవంతం అవ్వడం ఎంత ముఖ్యమో, భద్రత అంతకంటే ముఖ్యం. ఆటోమేషన్ వేగాన్ని మనం తెలివిగా నియంత్రించలేకపోతే, అది తెచ్చిపెట్టే లాభాల కంటే నష్టాలే ఎక్కువగా ఉంటాయని టెక్ నిపుణులు హెచ్చరిస్తున్నారు.