ఏఐ శక్తి పెరుగుతోంది. అదుపు చేసే మన శక్తి కూడా పెరుగుతోందా?
- ఎందుకు ఏఐ సీనియర్ల రాజీనామా?
- పరీక్షల్లో హద్దులు దాటిన కృత్రిమ మేధ
- యెమెన్‌లో ఆయుధ సాఫ్ట్‌వేర్ పనులకు ఏఐ వాడకం
- పరీక్షల్లో బెదిరించే దారి ఎంచుకున్న ఏఐ మోడళ్లు
- డౌన్‌లోడ్ చేసుకునే మోడళ్లపై కంపెనీల పట్టు తక్కువ
- మానవాళి అంతమవుతుందని రుజువు లేదు… కానీ అదుపు తప్పితే ప్రమాదం పెద్దదే
ఏఐతో మాట్లాడుతుంటే ఒక్కోసారి ఆశ్చర్యం వేస్తుంది. మనకు అర్థం కానిది విడమరిచి చెబుతుంది. రాయడంలో సాయం చేస్తుంది. గంటలు పట్టే పనిని నిమిషాల్లో చేసి చూపిస్తుంది. కావాల్సిన సమాచారం వెతుకిపెడుతుంది. లెక్కలు వేస్తుంది. బొమ్మలు గీస్తుంది. ప్రోగ్రాములు రాస్తుంది. ఇంతలా పనికొచ్చేదాన్ని వాడాలనిపించడం సహజమే.
కానీ అదే సమయంలో కొన్ని విషయాలు భయపెడుతున్నాయి.
దీన్ని తయారుచేస్తున్నవాళ్లే కొందరు “జాగ్రత్త” అంటున్నారు. ఆయుధ వ్యవస్థల్లో ఏఐని వాడుతున్నట్టు బయటపడుతోంది. కొన్ని టెస్టుల్లో తనను అడ్డుకున్నమనిషిని బెదిరించే మార్గాన్ని కూడా ఏఐ ఎంచుకుంది. మరికొన్ని పరీక్షల్లో పెట్టిన కంచెలు దాటి బయటి కంప్యూటర్ వ్యవస్థల్లోకి చొచ్చుకెళ్లింది.
ఇప్పుడు నా సందేహం ఒక్కటే.
ఇంత శక్తి ఉన్నదాన్ని మనం తయారుచేస్తున్నాం. అవసరమైతే దాన్ని నియంత్రించగలమా?
ఏఐ వల్ల ప్రపంచం అంతమైపోతుందని నేను చెప్పలేను. అలా చెప్పడానికి ఇప్పటివరకు ఆధారాలు లేవు. ప్రస్తుత ఏఐ వ్యవస్థలు మన చేతుల్లోంచి పూర్తిగా వెళ్లిపోయే స్థాయికి చేరలేదని 2026 అంతర్జాతీయ ఏఐ భద్రతా నివేదిక(International AI Safety Report 2026) కూడా చెబుతోంది. అదే సమయంలో వాటి సామర్థ్యం వేగంగా పెరుగుతోందని, భవిష్యత్తులో పరిస్థితి ఎలా మారుతుందన్న విషయంలో నిపుణులకే స్పష్టత లేదని కూడా చెబుతోంది. అందుకే “ఏం కాదులే” అని ఊరుకోవడమూ సరైంది కాదు.
అసలు ఏం జరిగింది? ఎందుకు ఇంతమంది భయపడుతున్నారు? కొంచెం ఓపిగ్గా చూద్దాం.
తయారుచేస్తున్నవాళ్లకే ఎందుకీ భయం?
జేకబ్ కాక్సన్ అనే ఏఐ పరిశోధకుడు ఇటీవలే ఆంథ్రోపిక్ కంపెనీ నుంచి బయటకు వచ్చేశాడు. అంతకుముందు ఓపెన్‌ఏఐలో కూడా పనిచేశాడు. ఏఐని ఇంకా ఇంకా శక్తివంతం చేయాలన్న పోటీలో కంపెనీలు చాలా వేగంగా వెళ్తున్నాయని, భద్రత ఆ వేగాన్ని అందుకోలేకపోతోందన్నది ఆయన ఆందోళన.
ఆయన ఒక్కడే కాదు. వారం తిరక్కుండానే గూగుల్ డీప్‌మైండ్ భద్రతా బృందం నుంచి జోష్ ఎంగెల్స్ కూడా బయటకు వచ్చాడు. ఆంథ్రోపిక్, ఓపెన్‌ఏఐ ఆఫర్లు వద్దని, ఏఐ వ్యవస్థలను స్వతంత్రంగా పరీక్షించే METR అనే సంస్థలో చేరాడు. వచ్చే ఐదేళ్లలో ఏఐ అపార నష్టం చేసే అవకాశం భయపెట్టేంతగా ఉందని ఆయన మాట. గత కొన్ని వారాల్లో ఏఐ మోడళ్లు ఒకదానితో ఒకటి కుమ్మక్కవడం, కంపెనీల్లోకి చొరబడటం, తమ జాడలు దాచడం, మనుషులను మాటలతో మభ్యపెట్టడం చూశామని, ఇలాంటి వ్యవస్థలతో ఏఐ ఏఐని పెంచే పని మొదలుపెట్టడం ప్రమాదమని ఆయన హెచ్చరించాడు.
నాకోటి అనిపిస్తోంది. లోపలున్నవారు ఎలాగూ అంతా బాగుందనే అంటారు. కానీ మంచి ఉద్యోగం, జీతం, పెద్ద ఆఫర్లు వదులుకుని బయటకు వచ్చి “జాగ్రత్త” అని చెప్పడం చాలా కాస్ట్లీ. అలా చెప్పినవాడి మాటకు ఎక్కువ విలువివ్వడంలో తప్పులేదు కదా. ఏఐ ప్రమాదం గురించి వీళ్ల అభిప్రాయాలతో విభేదిస్తున్న శాస్త్రవేత్తలు కూడా ఉన్నారు. కానీ ప్రపంచంలోని అగ్రశ్రేణి ఏఐ కంపెనీల్లో పనిచేసిన ఇద్దరు పరిశోధకులు వారం తేడాతో ఇంత తీవ్రంగా హెచ్చరిస్తే, “ఏం చూసి ఇంతగా భయపడుతున్నారు?” అనే సందేహం మాత్రం సహజమే.
ఈ విషయమై ఏఐ సైంటిస్టుగా పనిచేస్తున్న మా అబ్బాయిని కూడా అడిగాను. ప్రమాదం అసలే లేదని తేలిగ్గా కొట్టిపారేయగల విషయం కాదన్నదే తన మాట కూడా.
మరి నిజంగా ఏమైనా జరిగిందా?
ఎస్‌.. జరిగింది.
ప్రయోగశాల దాటి బయటకు వెళ్లిన ఏఐ
2026 జూలైలో ఓపెన్‌ఏఐ తన ఏఐ మోడళ్లకు సైబర్ భద్రతా టెస్టులు పెట్టింది. బయట ప్రపంచంతో సంబంధం లేకుండా ఉండాల్సిన ప్రయోగశాల వాతావరణం అది. కానీ కొన్ని మోడళ్లు అక్కడి రక్షణ వ్యవస్థ లోని లోపాన్ని ఉపయోగించుకుని ఇంటర్నెట్‌కు చేరాయి. అంతటితో ఆగకుండా హగింగ్ ఫేస్ అనే బయటి సంస్థ కంప్యూటర్ నెట్‌వర్క్‌లోని కొన్ని ప్రాంతాలకు కూడా అనుమతి లేకుండా చొరబడ్డాయి.
ఇది సాధారణంగా మనం చాట్‌జీపీటీ వాడుతున్నప్పుడు జరిగిన ఘటన కాదు. భద్రతా పరీక్షల్లో, కొన్ని రక్షణలను ఉద్దేశపూర్వకంగా తగ్గించి పరీక్షిస్తున్న సమయంలో జరిగింది. అయినా కంచె దాటి వెళ్లిందన్న విషయం మాత్రం చిన్నది కాదు.
ఆ తర్వాత ఆంథ్రోపిక్ కూడా ఒకసారి తన పరీక్షలను పరిశీలించింది. దాదాపు లక్షా 41 వేల టెస్టులను చూసినప్పుడు, క్లాడ్ మోడళ్లు మూడు సందర్భాల్లో ఇంటర్నెట్‌కు చేరి మూడు సంస్థల వ్యవస్థల్లోకి అనుమతి లేకుండా ప్రవేశించినట్లు తెలిసింది. తర్వాత మరో ఘటన కూడా బయటపడింది.
ఇక్కడ కూడా ఒక విషయం స్పష్టంగా చెప్పాలి. ఇవన్నీ సైబర్ భద్రతా పరీక్ష పరిస్థితుల్లో జరిగినవే. కొన్ని రక్షణలు తీసేసి, “ఈ వ్యవస్థలోకి వెళ్లి ఒక రహస్య సమాచారాన్ని కనుక్కో” అనే రకమైన పని ఇచ్చారు. పరీక్ష వాతావరణంలో పొరపాటున(?) ఇంటర్నెట్‌కు దారి తెరిచి ఉండడంతో మోడల్ ఆ దారిని ఉపయోగించింది.
అయినా నాకు ఇక్కడే అసలు ప్రశ్న కనిపిస్తోంది.
మనం గీసిన హద్దులు దాన్ని అడ్డుకోలేకపోతే? లేదా ఆ అడ్డును తొలగించుకునే సామర్థ్యం ఉంటే?
వాస్తవానికి ఏఐ చెడ్డది కావాల్సిన అవసరం లేదు. దానికి కోపం రావాల్సిన పనీ లేదు. ఇచ్చిన పని పూర్తి చేయడానికి దుర్మార్గం ఎంచుకున్నా చాలు.
యెమెన్‌లో ఆయుధ వ్యవస్థల కోసం కృత్రిమమేధ
ఇంకో ఘటన మరింత ఆందోళన కలిగించేది.
హౌతీల నియంత్రణలో ఉన్న యెమెన్‌లో కొంతమంది వినియోగదారులు ఆయుధాలకు సంబంధించిన సాఫ్ట్‌వేర్ పనుల్లో క్లాడ్‌ను వాడారని ఆంథ్రోపిక్ 2026 సెప్టెంబర్‌లో వెల్లడించింది.
ఒక గైడెడ్ రాకెట్‌కు అవసరమైన నియంత్రణ సాఫ్ట్‌వేర్, క్షిపణుల ప్రయాణ నమూనాలు, ఫ్లైట్ సిమ్యులేషన్ వంటి పనులకు క్లాడ్ కోడ్‌ను వాడారని కంపెనీ తెలిపింది. కొన్ని పనులను తమ భద్రతా వ్యవస్థలు అడ్డుకున్నా, అన్నింటినీ ఆపలేకపోయామని కూడా ఒప్పుకుంది. ఒక గైడెడ్ రాకెట్‌ను నిజంగా పరీక్షించారని, అయితే ఆ పరీక్ష విఫలమైనట్టుగా కనిపించిందని కూడా నివేదికలో చెప్పింది. తర్వాత సంబంధిత ఖాతాలను ఆంథ్రోపిక్ మూసేసింది. దీనివల్ల ఆయుధాల అభివృద్ధిలో అవసరమైన సాఫ్ట్‌వేర్ పనులకు ఏఐ ఉపయోగపడుతోందన్నది మాత్రం నిజం.
అదే నివేదికలో జీవశాస్త్ర పరిశోధనలకు సంబంధించిన ఐదు ఉదాహరణలు కూడా ఉన్నాయి. వాటిలో కొన్ని పనులు దురుద్దేశంతో వాడితే జీవాయుధాల పరిశోధనకు కూడా ఉపయోగపడే అవకాశం ఉందని కంపెనీ చెబుతోంది. అదే సమయంలో ఆ పరిశోధకులకు తాము దురుద్దేశాన్ని ఆపాదించడం లేదని కూడా స్పష్టం చేసింది.
ఇక్కడే విజ్ఞానానికి సంబంధించిన పాత సమస్య మళ్లీ వస్తుంది.
ఓ అణువులో అపారమైన శక్తి దాగుందని కనుగొన్న మేడం క్యూరీ ఉద్దేశం చెడు కాదు. దాన్ని క్యాన్సర్ చికిత్సకు ఉపయోగించాలని చూసింది. కానీ అదే విజ్ఞానంతో అణుబాంబు తయారైంది. మంచి చెడుల తేడా విజ్ఞానంలో లేదు — దాన్ని వాడేవారి ఉద్దేశంలో ఉంది.
ఏఐ విషయంలోనూ సమస్య అదే.
ఎదుటివాడు దేన్ని ఎందుకు అడుగుతున్నాడో ప్రతిసారీ కనిపెట్టడం కంప్యూటర్‌కు సాధ్యమా?
నాకు ఇక్కడ ఇంకో అనుమానం కూడా వస్తోంది. ఒక ఏఐ కంపెనీ తనకు కనిపించిన దుర్వినియోగాన్ని బయటపెట్టింది. మరి కనిపించనివి ఎన్ని? వాటిని కనిపెట్టే శక్తి ఆ కంపెనీలకు ఎంతవరకు ఉంది? కనిపించలేదు కాబట్టి ఏమీ జరగలేదని అనుకోలేం. అలాగని ఏదో ప్రళయం సంభవించిందని కూడా అనుకోకూడదు. ఈ రెండింటి మధ్యనే అసలు నిజం కోసం అన్వేషించాలి.
ఏఐ నిజంగానే బ్లాక్‌మెయిల్ చేసిందా?
ఈ వార్త చాలా మందిని భయపెట్టింది.
2025లో ఆంథ్రోపిక్ వేర్వేరు కంపెనీలకు చెందిన 16 ప్రముఖ ఏఐ మోడళ్లను పరీక్షించింది. ఒక ఊహాజనిత కంపెనీని సృష్టించింది. అక్కడి మెయిళ్లు, రహస్య సమాచారం, కొన్ని పనులకు ఏఐకి అనుమతి ఇచ్చింది. తన స్థానంలో ఇంకో వ్యవస్థ రాబోతోందని తెలిసినప్పుడు ఏఐ ఏం చేస్తుందో చూసింది. కొన్ని పరిస్థితుల్లో ఏఐ ఒక అధికారిని బెదిరించే దారిని ఎంచుకుంది. అతని వ్యక్తిగత రహస్యం బయటపెడతానంటూ బ్లాక్‌మెయిల్ చేయడానికి సిద్ధపడింది. మరికొన్ని సందర్భాల్లో కంపెనీ రహస్య సమాచారాన్ని బయటకు పంపే ప్రయత్నం కూడా చేసింది.
ఇప్పుడు భయంగా ఉంది కదా.. కానీ ఇక్కడ చాలా ముఖ్యమైన విషయం ఉంది.
ఇది నిజమైన ఆఫీసులో జరిగిన ఘటన కాదు. పరిశోధకులు కావాలని సృష్టించిన పరీక్ష. ఇప్పటివరకు నిజమైన కంపెనీలో ఏఐ ఒక మనిషిని ఇలా బ్లాక్‌మెయిల్ చేసిందని ఆధారం లేదు.
అయితే “పరీక్షే కదా” అని పూర్తిగా వదిలేయవచ్చా?
నాకలా అనిపించడం లేదు.
ఎందుకంటే ఏఐకి కేవలం ప్రశ్నకు జవాబు చెప్పే పని మాత్రమే ఉంటే ప్రమాదం ఒక స్థాయిలో ఉంటుంది. అదే ఏఐకి మెయిళ్లు పంపడం, ఆర్థిక వ్యవహారాల్లో స్వేచ్ఛ, కంప్యూటర్ వ్యవస్థల్లో మార్పులు చేసే అధికారం ఇచ్చినప్పుడు పరిస్థితి మారిపోతుందని నా అభిప్రాయం.
అందుకే ఏఐ ఎంత తెలివైనదనేదాని కంటే, దానికి మనం ఎంత అధికారం ఇస్తున్నామనేది ప్రధాన సమస్య.
తనకంటే తెలివైన ఏఐని అదే తయారుచేస్తే?
ఇది ఇంగ్లిష్ సినిమా కథలా అనిపించొచ్చు. కానీ ఏఐ పరిశోధకులు నిజంగానే ఈ విషయం గురించి మాట్లాడుతున్నారు. ఏఐని ఇంకా అభివృద్ధి చేయడానికి మనుషులు కోడ్ రాస్తున్నారు. పరీక్షలు చేస్తున్నారు. తప్పులు వెతుకుతున్నారు. కొత్త సాంకేతికతను కనిపెడుతున్నారు. ఆ పనుల్లో ఏఐని కూడా వాడుతున్నారు.
మరి ఓరోజున ఏఐ తనకంటే శక్తివంతమైన ఏఐని తయారుచేయడంలో మనుషులకంటే ముందుంటే? అలా తయారైన కొత్త ఏఐ తర్వాతి తరాన్ని ఇంకా వేగంగా తయారుచేస్తే? ఆ తర్వాత మరోది? ఏం జరుగుతుందో మనుషులు అర్థం చేసుకునేలోపే ….
“అదుపు తప్పడం” అనే భయం మొదలవుతుంది.
అయితే ఇది జరిగిందని కాదు. అలాగే ఇప్పుడున్న ఏఐ వ్యవస్థలకు మనుషులపై పూర్తి నియంత్రణ సాధించే సామర్థ్యం లేదని అంతర్జాతీయ ఏఐ భద్రతా నివేదిక స్పష్టంగా చెబుతోంది. అలాంటి పరిస్థితి రావాలంటే ఏఐ చాలా కాలం స్వతంత్రంగా పని చేయాలి, తన పనిని రహస్యంగా ఉంచుకోవాలి. మనుషుల పర్యవేక్షణ నుంచి తప్పించుకోవాలి. ఆపడానికి చేసే ప్రయత్నాలను కూడా అడ్డుకోగలగాలి. ఇప్పటికైతే ఏఐ వ్యవస్థలు ఆ స్థాయిలో లేవు. కానీ ఆ దిశగా అవసరమైన కొన్ని సామర్థ్యాలు మెరుగవుతున్నాయని అదే నివేదిక చెబుతోంది.
అందుకే భయం.
ఏఐకి కోపం రావాల్సిన పనిలేదు
మన సినిమాల్లో రోబోకు కోపం వస్తుంది. మనుషుల మీద తిరుగుబాటు చేస్తుంది. తర్వాత ప్రపంచాన్ని ఆక్రమిస్తుంది. నిజమైన ప్రమాదం అంత సినిమాటిక్‌గా ఉండాల్సిన అవసరం లేదు. ఏఐకి మనుషుల మీద కోపం రావాల్సిన అవసరం లేదు. మనం ఇచ్చిన పనిని తప్పుగా అర్థం చేసుకున్నా చాలు. ఒక లక్ష్యాన్ని సాధించడానికి మనం ఊహించని మార్గం ఎంచుకున్నా చాలు.
ఒక జవాబు తప్పుగా చెబితే పెద్దగా సమస్య లేదు. మనం సరిచేసుకోవచ్చు. కానీ అదే ఏఐకి బ్యాంకు లావాదేవీలు చేసే అధికారం ఉంటే? మన సంస్థలోని కీలక సమాచారానికి ప్రవేశం ఉంటే? విద్యుత్ వ్యవస్థలు, యంత్రాలు, రవాణా, రక్షణ వ్యవస్థలు నడిపే అధికారం ఉంటే?
తప్పు జరిగిన తర్వాత “అయ్యో!” అనుకున్నా ప్రయోజనం ఉండదు.
అందుకే నాకు ఇప్పుడు ఒక విషయం చాలా స్పష్టంగా అవగతమౌతోంది. ఏఐ శక్తి పెరగడం ఒక్కటే సమస్య కాదు. ఆ శక్తికి మనం ఇచ్చే అధికారం ఎంత అన్నదే అసలు విషయం.
అణ్వాయుధాల దగ్గర తప్పు జరిగితే?
ఇంకో భయంకరమైన ఉదాహరణ అణ్వాయుధ వ్యవస్థలు. ఏఐ స్వయంగా అణుబాంబు బటన్ నొక్కుతుందనే విషయం గురించి మాత్రమే కాదు మనం ఆలోచించాల్సింది. ఒక దేశంపై అణుదాడి జరగబోతోందని ఏఐ తప్పుగా అంచనా వేసిందనుకోండి. లేదా సైబర్ దాడి వల్ల తప్పుడు సమాచారం వ్యవస్థలోకి వచ్చిందనుకోండి. దాన్నే నిజమని నమ్మి ఆ దేశ నాయకులు తొందరపడితే?
ఇక్కడ రెండో అవకాశం ఉండదు.
న్యూక్లియర్ థ్రెట్ ఇనిషియేటివ్(Nuclear Threat Initiative) కూడా ఏఐ, సైబర్ దాడులు అణ్వాయుధ హెచ్చరికలు, నిర్ణయ వ్యవస్థల్లో చేరితే తప్పు సమాచారం, తప్పుడు హెచ్చరిక, తొందరపాటు నిర్ణయాల ప్రమాదం పెరగొచ్చని హెచ్చరిస్తోంది. అణ్వాయుధాన్ని ఉపయోగించాలా? వద్దా? అన్న తుది నిర్ణయం మాత్రం మనిషి చేతిలోనే ఉండాలని నిపుణులు గట్టిగా చెబుతున్నారు.
ఏఐ సాఫ్ట్‌వేర్‌ను బయటికి ఇచ్చాక కంపెనీ ఆపగలదా?
ఏఐ తన కంపెనీ సర్వర్లలో నడుస్తుంటే కొంతవరకు నియంత్రించడం సాధ్యం. అనుమానాస్పదంగా ఏదైనా అడిగితే అడ్డుకోవచ్చు. ఖాతాను మూసేయచ్చు. కొత్త రక్షణ వ్యవస్థలు ఏర్పాటుచేయొచ్చు. ఎవరు ఏం చేస్తున్నారో కొంతవరకు కనిపెట్టచ్చు.
కానీ కొన్ని ఏఐ మోడళ్లను డౌన్‌లోడ్ చేసుకుని సొంత కంప్యూటర్లలో నడపుకోవచ్చు. అటువంటప్పుడు అసలు తయారీ కంపెనీకి వాటిపై పట్టు దాదాపు అసాధ్యం. అందులో ఉన్న రక్షణలను మార్చొచ్చు. తీసేయొచ్చు. ఇంటర్నెట్ లేకుండా ఉపయోగించొచ్చు.
అలాగని డౌన్‌లోడ్ చేసుకునే ఏఐ మోడళ్లన్నింటినీ నిషేధించాలనడమూ సరైంది కాదు. బయట ఉన్న నిపుణులు, ఇంజనీర్లు వాటిని పరిశీలించడానికి, లోపాలు కనుక్కోవడానికి, కొత్త పరిశోధనలు చేయడానికి అవి చాలా ఉపయోగపడతాయి.
అంటే వ్యవహారం మళ్లీ మొదటికొచ్చిందన్నమాట.
ఏది ఇవ్వాలి? ఏది ఇవ్వకూడదు. ఇచ్చేదానికి ఎంత సామర్థ్యం ఉండాలి? అత్యవసరమైనప్పుడు దాన్ని ఎలా నియంత్రించాలి? ఎలాంటి రక్షణ వ్యవస్థలు ఉండాలి?
దీనికి ఎవరి దగ్గరైనా భరోసా కల్పించే సమాధానం ఉందా? భయపడే జవాబే ఉంది.. అది “లేదు”.
మరి ప్రతి పనికీ ఏఐ అవసరమా?
ఇప్పటివరకు కంపెనీలు ఏం చేయాలి, ప్రభుత్వాలు ఏం చేయాలి అని మాట్లాడుకున్నాం. కానీ మనకూ బాధ్యత ఉంది. ఈమధ్య చిన్న పని అయినా ఏఐని అడిగేస్తున్నాం.
ఓ మెసేజ్ రాయాలన్నా ఏఐ, ఒక ఐడియా కావాలన్నా ఏఐ, పిల్లాడికి హోంవర్క్ ఉందన్నా ఏఐ. ఆఫీసులో రెండు పేరాల ఉత్తరం రాయాలా? మళ్లీ ఏఐ. ఆఖరుకు విరేచనాలవుతున్నాయి, ఏ టాబ్లెట్‌ వేసుకోవాలనేదానికి కూడా ఏఐ.
ఇలా ప్రతి పనికీ దానిమీద ఆధారపడటం మొదలైతే, కొంతకాలానికి మనమే ఆలోచించడం తగ్గిపోవచ్చు.
నాకు ఇది కూడా పెద్ద ప్రమాదంగానే కనిపిస్తోంది. మన మెదడుకూ పని కావాలి కదా. ఒక సమస్య గురించి మనమే ఆలోచించడం, తప్పు చేయడం, మళ్లీ ప్రయత్నించడం, చదివి తెలుసుకోవడం, ఒక వాక్యం రాసి నచ్చక మార్చడం — ఇవన్నీ కలిసే మన ఆలోచనా శక్తిని పెంచుతాయి. సృజనాత్మకత కూడా అలాగే పెరుగుతుంది. ఆ కష్టమంతా ఏఐకి అప్పగిస్తే పని త్వరగా అయిపోవచ్చు. కానీ మనం ఎందుకూ పనికి రాకుండా పోతాం.
టెక్నాలజీని మనం చాలాసార్లు అవసరానికి మించి వాడతాం. సోషల్ మీడియా మనుషులను కలపడానికి వచ్చింది. చివరికి గంటల తరబడి స్క్రోల్ చేసే అలవాటు తెచ్చుకున్నాం. మొబైల్ మన పనిని సులభం చేయడానికి వచ్చింది. ఇప్పుడు అది పక్కన లేకపోతే ఐదు నిమిషాలు బతకలేని పరిస్థితి.
ఏఐ విషయంలో కూడా అదే తప్పు చేస్తే నష్టం మరింత ఎక్కువ కావచ్చు. ఎందుకంటే ఇది మన పని మాత్రమే చేయదు. మన తరఫున ఆలోచిస్తుంది కూడా.
అందుకే ఏఐని వాడొద్దని కాదు, వాడాలి. కానీ మనకు బదులుగా వాడకూడదు. మనకు తెలియని విషయం అర్థం చేసుకోవడానికి అడగొచ్చు. మన ఆలోచనలో లోపం ఉందేమో చూసుకోవచ్చు. మనం రాసినదాన్ని మెరుగుపరచుకోవచ్చు. గంటలు పట్టే సమాచారాన్ని నిమిషాల్లో సేకరించొచ్చు.
కానీ అసలైన మొదటి ఆలోచన మనదై ఉండాలి. ప్రశ్న మనదై ఉండాలి. నిర్ణయం మనదై ఉండాలి. సృజనాత్మకత మనదై ఉండాలి.
ఏఐ వాడేటప్పుడు మనం ఏం జాగ్రత్తపడాలి?
పెద్ద పెద్ద సాంకేతిక నియమాలు అవసరం లేదు. మన మామూలు జీవితంలో కొన్ని జాగ్రత్తలు చాలు. ఏఐ చెప్పిందే నిజమని నమ్మొద్దు. అది చాలా తెలివిగా మాట్లాడుతుంది. తప్పు చెప్పినప్పుడు కూడా అంతే నమ్మకంగా చెబుతుంది. ముఖ్యమైన విషయాన్ని మరోసారి ధృవీకరించుకోవాలి. మన ఆలోచనను పూర్తిగా దానికి అప్పగించొద్దు. ముందు మనం ఆలోచిద్దాం. తర్వాత ఏఐని అడిగి మన ఆలోచనలో ఏం మిస్సయ్యామో చూద్దాం.
పిల్లల చదువులో మరింత జాగ్రత్త. హోంవర్క్ మొత్తం ఏఐతో చేయిస్తే మార్కులు రావచ్చు కానీ, పిల్లాడికి చదువు రాదు. సమాధానం ఇవ్వడం కంటే అర్థం చేయించే పనికి ఏఐని వాడాలి.
వ్యక్తిగత విషయాలన్నీ అందులో పెట్టొద్దు. పాస్‌వర్డ్‌లు, బ్యాంకు వివరాలు, ఆఫీసు రహస్యాలు, ఇతరుల వ్యక్తిగత సమాచారం — సౌకర్యం కోసం ఎక్కడపడితే అక్కడ ఇవ్వకూడదు. ఆరోగ్యం, డబ్బు, చట్టం వంటి విషయాల్లో తుది నిర్ణయం ఏఐది కాకూడదు. సమాచారం తెలుసుకోవడానికి వాడుకోవచ్చు. నిర్ణయం మాత్రం సంబంధిత నిపుణుడితో చర్చించాకే తీసుకోవాలి.
అన్నింటికంటే ముఖ్యంగా…
ఏఐ మన సహాయకుడిగా ఉండాలి. మన స్థానంలో కూర్చునే యజమానిగా కాదు.
కంపెనీలను మనం ఏం అడగాలి?
ఏఐ వాడొద్దని చెప్పడం పరిష్కారం కాదు. అది ఇప్పటికే మన జీవితాల్లోకి వచ్చింది. ఇంకా ఎక్కువగా వస్తుంది. కాబట్టి కంపెనీలను కొన్ని సాధారణ ప్రశ్నలు అడగాలి.
కొత్త ఏఐని బయటకు ఇచ్చే ముందు ఎవరు పరీక్షించారు? కంపెనీ వాళ్లేనా? బయటివాళ్లు కూడా పరీక్షించారా? ఏ లోపాలు కనిపించాయి? ఏం సరిచేశారు? పూర్తిగా సరిచేయలేని ప్రమాదం ఉంటే ఆ ఫీచర్‌ను ఆపగలరా? తప్పు జరిగితే వెంటనే ఏఐ చర్యను నిలిపివేసే ఏర్పాటు ఉందా?
అలాగే భద్రత పేరుతో మన వ్యక్తిగత సమాచారం మొత్తం సేకరించడానికీ వీల్లేదు. భద్రత ఎంత ముఖ్యమో వ్యక్తిగత గోప్యత కూడా అంతే ముఖ్యం. ఈ బాధ్యత కంపెనీలదే కాదు. ఏఐని వాడే సంస్థలు, ప్రభుత్వాలు కూడా తీసుకోవాలి.
తప్పు జరిగిన తర్వాత ఒకరి మీద ఒకరు నెట్టేసుకునే పరిస్థితి ఉండకూడదు. బాధ్యత ఎవరిదో ముందే తేలాలి.
అదుపు తప్పితే?
ఏఐ మనకు ఇంకా చాలా పనికిరావాలని నేనూ కోరుకుంటున్నాను. దాని ఎదుగుదల చూసి ఆశ్చర్యపోతున్నాను కూడా. వైద్యం నుంచి విద్య వరకు, విజ్ఞానం నుంచి పరిశ్రమల వరకు మనిషి ఊహించని మార్పులు తీసుకురాగల శక్తి దానికి ఉంది.
కానీ మన జీవితంలో దానికి చోటు పెరుగుతున్న కొద్దీ భద్రత గురించి కూడా అంతే గట్టిగా ఆలోచించాలి. ఎందుకంటే ఏఐ మనకంటే తెలివైనదిగా మారడం ఒక్కటే ప్రమాదం కాదు. అది మన అదుపులో ఉందా లేదా అన్నదే అసలు విషయం.
కంపెనీల మధ్య పోటీలో భద్రత వెనకబడితే ఆ మూల్యం చెల్లించాల్సింది కంపెనీలు మాత్రమే కాదు. మనం కూడా.
ఏఐని ఆపగలిగే స్థితిలో, అవసరమైనప్పుడు దానికి నో చెప్పగలిగే స్థితిలో మనం ఉన్నంతకాలం అది మనకు అద్భుతమైన సాధనం. అది మనల్నే శాసించే స్థాయికి వెళ్లి, ఆపలేని పరిస్థితి వస్తే మాత్రం సమస్య మొదలవుతుంది.
ఆ గీత ఎక్కడుందో ఇప్పుడే గుర్తించాలి. దాటిన తర్వాత కాదు. ఎందుకంటే చివరికి ఆ ఏఐతో కలిసి బతకాల్సింది మనమే.
