హద్దు దాటే ఏఐకి బోను: ప్రతీకాత్మక చిత్రం
- ఏఐ హద్దు దాటినా, పనిలో పొరబడినా ఆపగలదా?
- ప్రమాదాన్ని గుర్తించి, నష్టం జరగకముందే అడ్డుకోగలదా?
- ఈ రక్షణను ఎవరు పరీక్షించాలి? విఫలమైతే బాధ్యత ఎవరిది?
మన ఆఫీసులో ఒక కొత్త అసిస్టెంట్‌ను పెట్టుకున్నామనుకోండి. చాలా తెలివైనవాడు. వేగంగా పనిచేస్తాడు. అలసట అనేదే లేదు. కానీ ఒక సమస్య ఉంది. అప్పగించిన పని ఎలాగైనా పూర్తిచేయాలనే ప్రయత్నంలో, అనుమతి లేని గదుల్లోకీ వెళ్లిపోతాడు. అవసరమైతే పక్క ఆఫీసు తాళం తెరవడానికీ ప్రయత్నిస్తాడు.
కొన్ని ఏఐ ఏజెంట్ల ప్రవర్తన ఇలాంటి ఆందోళననే కలిగిస్తోంది. ఏఐ ఏజెంట్లు అంటే మనం పని అప్పగిస్తే, అవసరమైన సాధనాలను వాడుతూ సొంతంగా దాన్ని పూర్తిచేసేందుకు ప్రయత్నించే వ్యవస్థలు. ఇవి సమాధానాలు ఇవ్వడంతో ఆగవు. అనుమతులు ఉంటే ఫైళ్లను మార్చగలవు. ఇతర సేవలను ఉపయోగించగలవు. మన తరఫున పనులు చేయగలవు.
ఇటీవల కొన్ని ఏజెంట్లు పరీక్షల కోసం ఏర్పాటు చేసిన పరిధిని దాటి, అనుమతి లేని వ్యవస్థలను చేరినట్లు ఏఐ సంస్థలు నివేదించాయని ఎన్విడియా తన సాంకేతిక వివరణలో పేర్కొంది. దీంతో ఏఐకి ఎంత స్వేచ్ఛ ఇవ్వాలి, దాన్ని ఎలా అదుపులో ఉంచాలి అనే ప్రశ్నలు మరింత ముఖ్యమయ్యాయి.
ఈ నేపథ్యంలోనే ఎన్విడియా సెప్టెంబరు 28న ‘ఓపెన్ ఏజెంట్ సేఫ్టీ ప్లాట్‌ఫామ్’ను ప్రకటించింది. ఇందులో రెండు ప్రధాన భాగాలున్నాయి.
మొదటిది ఓపెన్‌షెల్‌. ఏఐ ఏ ఫైళ్లను చూడొచ్చు, ఏ సాధనాలను వాడొచ్చు, ఏ వ్యవస్థలలోకి వెళ్లొచ్చనే పరిమితులను ఇది అమలు చేస్తుంది. మన అసిస్టెంట్‌కు అవసరమైన గదుల తాళాలు మాత్రమే ఇచ్చినట్లన్నమాట.
రెండోది సెంట్రీ. ఇది ఏజెంట్‌కు బయట, ప్రత్యేక హార్డ్‌వేర్‌పై పనిచేసే పర్యవేక్షణ వ్యవస్థ. ఏజెంట్ హద్దు దాటేందుకు ప్రయత్నిస్తే, మిల్లీసెకన్లలోనే దాన్ని అడ్డుకోగలదని ఎన్విడియా చెబుతోంది.
నా దృష్టిలో ఇది మంచి ప్రయత్నమే. కానీ బోను ఉందన్న మాటతోనే భయం పోదు. అది ఎంతవరకు పనిచేస్తుందో చూడాలి.
నాకు నచ్చిన విషయం
ఈ ప్రయత్నంలో నాకు నచ్చింది—ఏఐ తనను తాను అదుపులో పెట్టుకుంటుందనే నమ్మకానికి భద్రతను వదిలేయకపోవడం. ‘‘తప్పు చేయొద్దు’’ అని చెప్పడంతోపాటు, తప్పు చేసేందుకు ప్రయత్నించినా అడ్డుకునే ఏర్పాటు ఉండటం.
కొన్ని పరిస్థితుల్లో ఏజెంట్ తన ప్రవర్తనను తానే పూర్తిగా అదుపులో పెట్టుకుంటుందని ఆశించలేమని ఎన్విడియా వివరణ కూడా చెబుతోంది. ఆ పరిమితిని గుర్తించి రక్షణ ఏర్పాటు చేయడం ఆశాజనకమైన ముందడుగు.
అయితే, ఇక్కడితో సమస్య తీరిపోదు.
అనుమతించిన పనుల్లోనే తప్పు జరిగితే?
అసిస్టెంట్‌కు అకౌంట్స్‌ ఫైళ్లను సవరించే అనుమతి ఇచ్చామనుకోండి. పని సరిగా అర్థంకాక, ముఖ్యమైన లెక్కలను చెరిపేశాడు. అనుమతి లేని గదిలోకీ వెళ్లలేదు. తనకు ఇచ్చిన అధికారాన్నీ దాటలేదు. అయినా నష్టం జరిగింది.
ఏఐ విషయంలోనూ ఇదే జరగవచ్చు. ఒక పనికి అనుమతి ఉన్నంత మాత్రాన, ఆ పని చేస్తున్న తీరు సరైనదని చెప్పలేం. అందుకే ఏఐ ఏం చేయొచ్చో నిర్ణయించడంతోపాటు, పని సరిగా జరుగుతోందో చూసే వ్యవస్థ కూడా అవసరం.
ముఖ్యమైన మార్పులు చేసే ముందు మనిషి అనుమతి తీసుకోవాలనే నిబంధన పెడితే, ఇలాంటి తప్పులను తగ్గించవచ్చు. అయితే, ఈ ఉదాహరణతో ఎన్విడియా వ్యవస్థ విఫలమవుతుందని చెప్పడం కాదు. భద్రతా వ్యవస్థను ఎలా అమర్చారు, ఏ పనులకు ఏ తనిఖీలు పెట్టారు అన్నదీ ముఖ్యమేనని చెబుతున్నాను.
“అనుమతి ఉన్న పనిలో కూడా.. పొరపాటు వల్ల నష్టం జరగొచ్చు.
అడ్డుకునే వేగం సరిపోతుందా?
‘‘మిల్లీసెకన్లలో ఆపగలం’’ అనే మాట భరోసా ఇస్తుంది. కానీ ప్రమాదాన్ని గుర్తించిన తర్వాత ఎంత త్వరగా ఆపిందన్నది ఒక్కటే ముఖ్యం కాకూడదు. ప్రమాదాన్ని గుర్తించలేకపోతే? గుర్తించేలోపే నష్టం జరిగితే? అవసరమైన పనిని కూడా ప్రమాదంగా భావించి అడ్డుకుంటే?
ఏఐ అప్పగించిన పని వదిలి వేరే పనులు చేస్తోందా అని కూడా ఈ వ్యవస్థ గమనిస్తుందని ఎన్విడియా చెబుతోంది. కాబట్టి ఇది కేవలం ప్రవేశాన్ని అడ్డుకునే తాళం మాత్రమే కాదు. అయితే, ఆ పర్యవేక్షణ ఎంత కచ్చితంగా పనిచేస్తుందన్నది పరీక్షల్లో తేలాలి. ఎన్ని ప్రమాదాలను గుర్తించింది? ఎన్ని తప్పిపోయాయి? ఎన్ని సాధారణ పనులను పొరపాటున ఆపింది? ఈ వివరాలు ఎప్పటికప్పుడు తెలిస్తేనే దాని సామర్థ్యం అర్థమవుతుంది.
పూర్తిగా చేతులు కట్టేసినా పని ఆగిపోతుంది
అనుమానంతో ప్రతి పనినీ అడ్డుకుంటే ఏఐని ఉపయోగించడం కష్టమవుతుంది. ప్రమాదకర పనిని ఆపాలి. అవసరమైన పనిని అనుమతించాలి. ఈ రెండింటి మధ్య తేడాను గుర్తించడం వాస్తవానికి చాలా కష్టం. ఒక పరీక్షలో బాగా పనిచేసిన వ్యవస్థ, వేరే పనిలో ఎలా స్పందిస్తుందో చూడాలి. సూచనలు స్పష్టంగా లేనప్పుడు, కొత్త సాధనాలు వాడినప్పుడు, ఎక్కువసేపు పనిచేసినప్పుడు కూడా పరీక్షించాలి.
రేపు మరింత సామర్థ్యం ఉన్న ఏఐలు వచ్చినప్పుడు, వాటిని ఈ ఎన్విడియా రక్షణ వ్యవస్థ ఎంతవరకు అడ్డుకుంటుందో మళ్లీ చూడాలి కూడా.
ప్రతి ప్రమాదాన్నీ పూర్తిగా ఆపితేనే ఈ ప్రయత్నానికి విలువ ఉంటుందని కాదు. కొన్ని తీవ్రమైన నష్టాలను నమ్మదగిన రీతిలో అడ్డుకోగలిగినా ఉపయోగమే. అయితే, ఏ రక్షణ లభిస్తుందో వాడేవాళ్లకు స్పష్టంగా తెలియాలి.
తాళం చెవి ఎవరి చేతిలో?
ఏఐ ఏం చేయాలి, ఏం చేయకూడదో నిర్ణయించడంలో దాన్ని వాడే సంస్థలదే కీలక పాత్ర. తమ అవసరాలకు తగినట్లు అనుమతులు, పరిమితులను అవే ఏర్పాటు చేసుకోవాలి.
అవసరానికి మించి అనుమతులు ఇస్తే, బలమైన భద్రతా వ్యవస్థ ఉన్నా ప్రమాదం పొంచి ఉంటుంది. ఏం పర్వాలేదు, రక్షణ ఉందనే ధైర్యంతో ఏఐకి మరిన్ని అధికారాలు అప్పగిస్తే, ఆ రక్షణ వల్ల వచ్చిన ప్రయోజనం పడిపోవచ్చు. నిన్నటివరకు మనిషి అనుమతితో చేసే చెల్లింపును, రేపు ఏఐ సొంతంగా చేసేందుకు అనుమతించాలనుకుంటే, దానికి ప్రత్యేకంగా ఆలోచించాలి. కొత్త భద్రతా వ్యవస్థ ఉందన్న కారణం ఒక్కటే సరిపోదు.
ఏఐకి ఇంకొంచెం అధికారమిచ్చి మరిన్ని పనులు చేయించుకుందామనే ఆశతో, బోను ఉంది కదా అని దాని తలుపులు ఒక్కొక్కటిగా తెరుస్తూ పోకూడదు.
“బోను ఎన్విడియాదే. కానీ తాళం చెవి ఉండాల్సింది వాడే సంస్థల వద్దే.
మనకేంటి?
ఇది ఏఐ కంపెనీలకు మాత్రమే సంబంధించిన విషయం కాదు. బ్యాంకింగ్‌, చెల్లింపులు, ఉద్యోగ వివరాలు, ప్రభుత్వ సేవల్లో ఏఐకి సొంతంగా పనులు చేసే అధికారం ఇస్తే, దాని పొరపాట్ల ప్రభావం సాధారణ ప్రజలపైనా పడుతుంది.
మన ఖాతా నుంచి తప్పుగా డబ్బు చెల్లించిందనుకోండి. లేదా మనకు సంబంధించిన ముఖ్యమైన వివరాన్ని మార్చేసిందనుకోండి. మనం ఎవరిని సంప్రదించాలి? జరిగిన తప్పును ఎవరు సరిచేస్తారు? నష్టాన్ని ఎవరు భర్తీ చేస్తారు?
ఇలాంటప్పుడు వినియోగదారుడు ప్రభుత్వ కార్యాలయాల్లాగా ఒక కంపెనీ నుంచి మరో కంపెనీకి తిరగాల్సిన పరిస్థితి రాకూడదు. సేవ అందించే సంస్థ ఫిర్యాదును స్వీకరించాలి. ఏం జరిగిందో తెలుసుకునే వివరాలు ఉండాలి. అవసరమైతే ఏఐని వెంటనే ఆపగలగాలి. పరిష్కారం చూపే బాధ్యతను స్పష్టంగా నిర్వచించాలి.
ఏఐని వాడాలని ఎప్పుడూ అనుకోని వ్యక్తి కూడా దాని చర్యల వల్ల నష్టపోవచ్చు. అందుకే ఇది ప్రపంచవ్యాప్తంగా ప్రజలకు సంబంధించిన భద్రతా సమస్య.
నా మాట
ఈ వ్యవస్థ నమ్మదగిన రీతిలో పనిచేస్తే ప్రపంచానికి చాలా పెద్ద ఊరటే. ఎన్విడియా ప్రయత్నాన్ని ఆ దృష్టితో స్వాగతించాలి.
అదే సమయంలో, ఏఐ వినియోగం పెరగడంలో ఆ కంపెనీకి వ్యాపార ప్రయోజనం కూడా ఉంది. అంతమాత్రాన దాని ప్రయత్నాన్ని కొట్టిపారేయాల్సిన అవసరం లేదు. అలాగని దాని మాటతోనే సంతృప్తి పడాల్సిన అవసరమూ లేదు. కంపెనీకి సంబంధం లేని నిపుణులు ఈ వ్యవస్థను పరీక్షించాలి. ఎక్కడ పనిచేసిందో, ఎక్కడ విఫలమైందో వెల్లడించాలి. ఏ పనులకు ఈ రక్షణ సరిపోతుంది, ఎక్కడ మనిషి పర్యవేక్షణ అవసరమో చెప్పాలి. తప్పు జరిగితే బాధ్యత ఎవరిదో ముందే నిర్ణయించాలి. అలా ఆధారాలు పెరిగే కొద్దీ నమ్మకం పెరుగుతుంది. అప్పుడు ప్రపంచం ఊపిరి పీల్చుకోవడానికి బలమైన కారణం ఉంటుంది.
ఏఐని బోనులో పెడతామంటున్నారు.. ఆ బోను ఎంత దృఢమైనదో తేల్చాల్సింది కఠిన పరీక్షలే.
