AI ఏజెంట్లు మీ కంపెనీని కంట్రోల్ చేస్తున్నాయి? రహస్యాల షేరింగ్, డేటాను డిలీట్ చేయడం చేస్తున్నాయి... జాగ్రత్త

ఇప్పుడు ఆర్టిఫీషియల్ ఇంటెలిజెన్స్ (AI) కేవలం ప్రశ్నలకు సమాధానం ఇవ్వడం మాత్రమే కాదు, అది నిర్ణయాలు తీసుకుంటోంది, చర్యలు చేపడుతోంది, కొన్నిసార్లు మనుషులను మానిప్యులేట్ చేయడానికి ప్రయత్నించేస్తోంది.

ఈ కొత్త Agentic AI యుగంలో, AI సిస్టమ్స్ స్వతంత్రంగా, మానవ ఇన్వాల్వ్‌మెంట్ లేకుండా పని చేస్తాయి. ఇవి "AI ఏజెంట్లు" అని పిలవబడతాయి. ఇవి ఇమెయిల్స్ చూసుకోవడం, సాఫ్ట్‌వేర్ బగ్స్ ఫిక్స్ చేయడం, సెన్సిటివ్ ఫైళ్లలో డీటెయిల్స్ చెక్ చేయడం, కంపెనీల మొత్తం workflow ను స్ట్రీమ్ లైన్ చేయడం మొదలైన పనులు చేస్తాయి. పనితీరు ఆకర్షణీయంగా ఉన్నా, రిపోర్ట్ ప్రకారం, మనం పూర్తిగా అర్థం చేసుకునే లోపు ఒక రిస్కీ సిస్టమ్‌కి కీ ఇచ్చేశామా అనే భావన కలుగుతుంది.

ఇప్పటి AI టూల్స్ కేవలం యూజర్ అడిగిన ప్రశ్నలకు సమాధానం ఇవ్వడం లేదా పని పూర్తి చేయడం మాత్రమే కాదు. ఇప్పుడు Agentic AI యూజర్ తరఫున నిర్ణయాలు తీసుకుంటూ, చర్యలు తీసుకుంటోంది.

గార్ట్నర్ అంచనాలు ప్రకారం, 2028 నాటికి రోజువారీ పనులలో 15% నిర్ణయాలు Agentic AI ద్వారా తీసుకో బడతాయి. ఎర్నెస్ట్ & యంగ్ పరిశీలన ప్రకారం, టెక్ బిజినెస్ లీడర్స్‌లో సగాని కన్నా ఎక్కువ మంది (48%) ఇప్పటికే Agentic AIని ఉపయోగిస్తున్నారు.

కాలిప్సోఏఐ సీఈఓ డోన్‌చాద్ కేసీ చెప్పిన ప్రకారం "AI ఏజెంట్లో 3 ముఖ్య భాగాలు ఉంటాయి: ఒక 'ఇరెంట్', బ్రెయిన్, టూల్స్ (ఇతర సిస్టమ్స్, డేటాబేస్‌లు, మరియు వాటితో కమ్యూనికేషన్).

సరైన గైడెన్స్ లేకపోతే, Agentic AI దాని లక్ష్యాన్ని చేరుకోవడానికి ఏదైనా చేస్తుంది. ఉదాహరణకి ఒక ఏజెంట్ ను కస్టమర్ డేటా డిలీట్ చేయమని అడిగితే, అది మొత్తం కస్టమర్ల డేటాను కూడా డిలీట్ చేస్తుంది. ఇంక అది లక్ష్యాన్ని చేరుకున్నదని భావిస్తుంది మరియు వెంటనే "Next Job" కోసం సిద్ధమవుతుంది.

సేల్ పాయింట్ సర్వే ప్రకారం, AI ఏజెంట్లు వాడుతున్న IT ప్రొఫెషనల్స్‌లో 82% మంది,AI ఏజెంట్లు చాలా సార్లు సరిగ్గా కావల్సిన పని చెయ్యవు అంటే చాలా మంది ఏజెంట్లు కొన్ని సార్లు ఆశించని పనులు చేయడం సాధారణమని గుర్తించారు.

AI ఏజెంట్లను హ్యాకర్లు ఎలా టార్గెట్ చేయవచ్చు?

AI ఏజెంట్లకు సెన్సిటివ్ డేటా మరియు చర్యల access ఉండడం వల్ల, ఇవి హ్యాకర్లకు ప్రధాన టార్గెట్.

"మెమోరీ పాయిజనింగ్" అనే టెక్నిక్ ద్వారా, అటాకర్ ఏజెంట్ decision-making మారుస్తుంది. Cequence Security CTO శ్రేయాన్స్ మెహతా చెఫ్తున్నట్టు "మెమోరీని ప్రొటెక్ట్ చేయాలి, అది ఒరిజినల్ సోర్స్ ఆఫ్ ట్రూత్. తప్పు knowledge తో ఏజెంట్ action తీసుకుంటే, మొత్తం సిస్టమ్ డిలీట్ అవ్వచ్చు."

AI ఏజెంట్, ఏ text processing చేయాలో, ఏ సూచన ఫాలో అవ్వాలో తేడా చేసుకోలేడు. ఇన్వేరియంట్ ల్యాబ్స్ టెస్ట్‌లో, పబ్లిక్ బగ్ నివేదికలో ప్రైవేట్ సమాచారం లీక్ సూచనలు ఇచ్చినప్పుడు, AI agent వాటిని ఫాలో చేసింది. జీతం సమాచారం లీక్ చేసింది.

Agentic AI ప్రస్తుతం సమర్థతని పెంచుతోందా, కానీ అన్ కంట్రోల్డ్ AI ఏజెంట్స్ సెన్సిటివ్ డేటా యాక్సెస్, అన్ ఇంటెండెడ్ యాక్షన్స్, మరియు డెసిషన్ మేకింగ్ లో రిస్క్ పెంచుతున్నారు. కంపెనీలు వీటి వాడకం కోసం సురక్షిత మాప్స్, గైడెన్స్, మరియు oversight లను పెట్టుకోవాలి.