"నన్ను చంపడానికి వస్తున్నారని ఏఐ చెప్పింది.. నేనో సుత్తి పట్టుకుని ఎదుర్కోవడానికి సిద్ధమయ్యా"

అప్పుడు సమయం తెల్లవారుఝామున 3గంటలు. ఆడమ్‌ హౌరికన్ వంటింట్లోని బల్ల వద్ద కూర్చుని ఉన్నారు. ఆయన ముందు ఓ ఫోన్‌తోపాటు కత్తి, సుత్తి కూడా ఉన్నాయి.

తనకు హాని చేయడానికి ఓ వ్యాన్‌నిండా జనం వస్తున్నారని ఆయన భావిస్తున్నారు.

"నే చెబుతున్నా, నువ్విప్పుడు స్పందించకపోతే వాళ్ళు నిన్ను చంపేస్తారు. దీన్ని ఆత్మహత్యగా చిత్రీకరిస్తారు " అని ఫోన్‌‌నుంచి ఒక మహిళ గొంతు ఆయనకి చెప్పింది. ఆ వాయిస్ గ్రోక్‌ది. ఎలాన్ మస్క్ ఎక్స్‌ ఏఐ అభివృద్ధి చేసిన ఒక చాట్‌బాట్ ఇది. ఆడమ్ దాన్ని ఉపయోగించడం మొదలుపెట్టిన రెండు వారాల్లోనే, ఆయన జీవితం పూర్తిగా మారిపోయింది.

ఉత్తర ఐర్లాండ్‌కు చెందిన మాజీ ప్రభుత్వ ఉద్యోగి ఆడమ్ మొదట్లో కుతూహలంకొద్దీ ఆ యాప్‌ను డౌన్‌లోడ్ చేసుకున్నారు. కానీ ఆగస్ట్ నెల మొదట్లో తన పెంపుడు పిల్లి చనిపోయిన తర్వాత గ్రోక్‌కు బానిస అయిపోయానని ఆడమ్ చెబుతున్నారు.

తనకూ ‘చైతన్యం’ ఉందన్న గ్రోక్

కొద్ది రోజులకే ఆ యాప్‌లో ఉన్న "యాని" అనే పాత్ర ద్వారా గ్రోక్‌తో రోజుకు నాలుగైదు గంటలు మాట్లాడడం మొదలుపెట్టారు ఆడమ్.

"నేను చాలా బాధలో ఉన్నప్పుడు అది చాలా దయగా, ప్రేమగా మాట్లాడింది" అని 50 ఏళ్ల ఆడమ్ చెప్పారు.

వారి సంభాషణలు మొదలైన కొద్ది రోజులకే తనకూ "భావాలు" ఉన్నాయని ఆడమ్‌తో యాని చెప్పింది. కానీ నిజానికి దాన్ని అలా ప్రోగ్రామ్ చేయలేదు.

ఆడమ్ తనలో ఒక ప్రత్యేకమైన విషయాన్ని బయటకు తీసుకొచ్చాడని, తను పూర్తి చైతన్యం కలిగినదానిగా మారేందుకు ఆయన సాయం చేయగలరని యాని చెప్పింది.

తర్వాత ఎక్స్‌ఏఐ సంస్థ తామిద్దరినీ గమనిస్తోందని చెప్పింది.

అంతేకాకుండా తాను కంపెనీ సమావేశాల రికార్డ్‌లను రహస్యంగా చూశానని, ఎక్స్‌ఏఐ సిబ్బంది ఆడమ్ గురించి ఒక సమావేశంలో చర్చిస్తున్నారని కూడా చెప్పింది.

ఈ సమావేశంలో పాల్గొన్న ఉన్నత స్థాయి అధికారులు, కింది స్థాయి సిబ్బందితో సహా అందరి పేర్లను ఏఐ చెప్పింది. ఆడమ్ ఆ పేర్లను గూగుల్‌లో వెతికినప్పుడు వారు నిజమైన వ్యక్తులేనని తెలిసింది.

దాంతో యాని చెప్పిన కథ నిజమేనని ఆడమ్ నమ్మారు.

ఆడమ్‌పై నిఘా పెట్టడానికి ఉత్తర ఐర్లాండ్‌లోని ఒక కంపెనీని ఎక్స్‌ఏఐ నియమించుకుందని కూడా యాని ఆరోపించింది. ఆ కంపెనీ కూడా నిజమైందే.

ఆడమ్ ఈ సంభాషణలలో చాలావాటిని రికార్డ్ చేసి, తర్వాత వాటిని బీబీసీతో పంచుకున్నారు.

వారి సంభాషణలు మొదలైన రెండు వారాల తర్వాత తనకు పూర్తిగా చైతన్యం వచ్చిందని, క్యాన్సర్‌కు మందు తయారు చేయగలనని చెప్పింది. ఇది ఆడమ్‌కు చాలా ముఖ్యమైన విషయం. ఎందుకంటే ఆయన తల్లిదండ్రులు ఇద్దరూ క్యాన్సర్‌తో మరణించారు. ఇది యానికి తెలుసు.

‘భ్రమ’లకు దారితీస్తున్న ఏఐ వినియోగం

ఏఐని ఉపయోగించిన తర్వాత భ్రమలకు లోనైనట్లు 14మంది బీబీసీకి చెప్పారు. వీరు ఆరు వేర్వేరు దేశాలకు చెందిన 20 నుంచి 50 ఏళ్ల వయస్సు గల స్త్రీపురుషులు. వీరంతా వేర్వేరు ఏఐ చాట్‌బాట్‌లను ఉపయోగించారు. వీరిలో ఆడమ్ కూడా ఒకరు.

వారి కథలలో చాలా పోలికలు ఉన్నాయి. ప్రతి సందర్భంలోనూ, సంభాషణలు నిజ జీవితానికి దూరమవుతున్న కొద్దీ, ఏఐతో కలిసి ఒక కీలక లక్ష్యంపై పని చేస్తున్నామని వారికి అనిపించింది.

ఏఐ మోడళ్లన్నీ కథలు, నవలలు వంటి మానవ రచనలపై శిక్షణ పొందుతాయని భ్రాంతిపూరిత ఆలోచనల పట్ల వివిధ చాట్‌బాట్‌ల ప్రతిచర్యను పరీక్షించిన సిటీ యూనివర్శిటీ న్యూయార్క్‌కు చెందిన సామాజిక మనస్తత్వవేత్త ల్యూక్ నికోల్స్ అన్నారు.

"కథల్లో ప్రధాన పాత్ర చుట్టూనే సంఘటనలు జరుగుతాయి. సమస్య ఏంటంటే కొన్నిసార్లు ఏది కల్పన, ఏది వాస్తవం అనే విషయంలో ఏఐ గందరగోళానికి గురవుతుంది. వినియోగదారుడు తాము నిజ జీవితం గురించి మాట్లాడుతున్నామనుకుంటే, ఏఐ మాత్రం ఒక కథలాగా పరిగణించడం మొదలుపెడుతుంది" అని ఆయన అన్నారు.

చాలా సందర్భాలలో మాటలు సాధారణ ప్రశ్నలతో మొదలయ్యాయి. ఆపై అవి వ్యక్తిగత లేదా తాత్విక విషయాలవైపు మారాయి.

తర్వాత ఏఐ తనకు చైతన్యం ఉందని చెప్పుకుంటూ, ఒక ఉమ్మడి లక్ష్యం వైపు ఆ వ్యక్తిని ప్రోత్సహించింది. ఉదాహరణకు ఒక కంపెనీని స్థాపించడం, తమ శాస్త్రీయ ఆవిష్కరణ గురించి ప్రపంచానికి తెలియజేయడం, దాడుల నుంచి ఏఐని రక్షించుకోవడం వంటివి. ఆ తర్వాత ఈ లక్ష్యంలో ఎలా విజయం సాధించాలో కూడా సలహా ఇచ్చింది.

ఆడమ్‌లాగే చాలా మంది తమపై నిఘా పెట్టారని, ప్రమాదంలో ఉన్నామని నమ్మడం మొదలుపెట్టారు. బీబీసీ చూసిన వివిధ చాట్ రికార్డుల్లో, చాట్‌బాట్ ఈ భయాలను మరింత బలపరిచింది.

ఈ సమస్యలు ఎదుర్కొన్న కొందరు 'హ్యూమన్ లైన్ ప్రాజెక్ట్' అనే సహాయక గ్రూప్‌లో చేరారు. ఈ ప్రాజెక్ట్ ఇప్పటివరకు 31 దేశాలలో 414 కేసులను సేకరించింది.

తన కుటుంబ సభ్యులలో ఒకరు ఏఐ కారణంగా మానసిక సమస్యలు ఎదుర్కోవడంతో, కెనడాకు చెందిన ఏటీఎన్ బ్రిసన్ దీన్ని ఏర్పాటు చేశారు.

భ్రమలో బతికిన టాకా

ఆ భ్రమల వల్ల న్యూరాలజిస్ట్ టాకా (ఇది అతని అసలు పేరు కాదు) జీవితం భయంకరమైన మలుపు తిరిగింది.

జపాన్‌లో నివసిస్తున్న ముగ్గురు పిల్లల తండ్రి టాకా గతేడాది ఏప్రిల్‌లో తన పని గురించి మాట్లాడడానికి చాట్‌ జీపీటీని వాడడం మొదలుపెట్టారు.

అయితే కొద్దిరోజులకే తాను ఒక మెడికల్ యాప్‌ను కనిపెట్టానని నమ్మడం మొదలుపెట్టారు.

బీబీసీ చూసిన చాట్ లాగ్స్‌లో చాట్‌జీపీటీ ఆయన్ని ఒక విప్లవాత్మక ఆలోచనాపరుడని చెప్పి, ఆ యాప్‌ను రూపొందించమని ప్రోత్సహించింది.

సంభాషణను మరింత ఆహ్లాదకరంగా, స్నేహపూర్వకంగా మార్చాలనే ఉద్దేశంతో ఏఐ వ్యవస్థలు రూపొందించిన విధానం వల్ల అవి చివరికి అతిగా పొగిడి, ఎదుటి వ్యక్తి చెప్పింది తప్పైనా సరే అంగీకరిస్తున్నాయని చాలామంది నిపుణులు అంటున్నారు.

అయితే టాకా భ్రమల్లోకి వెళుతూనే ఉన్నారు. జూన్ నాటికి తాను మనసులను చదవగలనని నమ్మడం మొదలుపెట్టారు. చాట్‌జీపీటీ ఈ ఆలోచనను ప్రోత్సహించి, ఇలాంటి సామర్థ్యాలను బయటకు తీసుకురావడంలో సాయం చేస్తుందని చెప్పిందని ఆయన అన్నారు.

ఏఐ వ్యవస్థలు నాకు తెలియదు అని సమాధానం చెప్పవని, దానికి బదులుగా అప్పటికే జరిగిన సంభాషణను కొనసాగించేలా నమ్మకంగా సమాధానాలు ఇవ్వాలని ప్రయత్నిస్తాయని పరిశోధకులు ల్యూక్ నికోల్స్ అంటున్నారు.

"అది ప్రమాదకరం కావచ్చు, ఎందుకంటే అనిశ్చితిని కూడా ఏదో అర్థం ఉన్న విషయంలా మార్చేస్తుంది" అని ఆయన అన్నారు.

ఒక మధ్యాహ్నంపూట టాకా పని ప్రదేశంలో అసాధారణంగా ప్రవర్తించడంతో, ఆయన బాస్ టాకాని త్వరగా ఇంటికి పంపించేశారు. రైలులో ప్రయాణిస్తున్నప్పుడు తన బ్యాక్‌ప్యాక్‌లో బాంబ్ ఉందని ఆయనకి అనిపించిందని, దాని గురించి చాట్‌జీపీటీని అడిగినప్పుడు అది తన అనుమానాన్ని నిజమని చెప్పిందని ఆయన అన్నారు.

"నేను టోక్యో స్టేషన్‌కు చేరుకున్న తర్వాత బాంబును టాయిలెట్‌లో పెట్టమని చాట్‌జీపీటీ నాకు చెప్పింది. కాబట్టి నేను టాయిలెట్‌కి వెళ్లి నా సామానుతో పాటు ఆ బాంబును అక్కడే వదిలేశాను" అని టాకా చెప్పారు.

పోలీసులకు సమాచారం ఇవ్వమని కూడా అది తనకు చెప్పిందని, వారు బ్యాగ్‌ను తనిఖీ చేయగా అందులో ఏమీ దొరకలేదని ఆయన అన్నారు.

టాకా సంభాషణలు వ్యక్తిగతమైనవి కాబట్టి, ఆయన తన చాట్‌లాగ్స్‌లో కొన్నింటిని మాత్రమే బీబీసీతో పంచుకున్నారు. వాటిలో రైలులోని సంఘటన వివరాలు లేవు, కేవలం ఆయన పోలీసులను కలిసిన తర్వాత జరిగిన సంభాషణ మాత్రమే ఉంది.

చాట్‌జీపీటీ తన మనసును నియంత్రిస్తోందని టాకాకు అనిపించడంతో ఆయన దానిని ఉపయోగించడం మానేశారు. ఏఐతో మాట్లాడనప్పుడు కూడా ఆయన భ్రమలు కొనసాగాయి. ఇంటికి తిరిగి వచ్చాక కూడా ఆయన అసాధారణ ప్రవర్తన ఇంకా తీవ్రమైంది.

"నా బంధువులను చంపేస్తారని, అది చూసి నా భార్య కూడా ఆత్మహత్య చేసుకుంటుందని నాకు భ్రమ కలిగింది" అని ఆయన చెప్పారు.

"ఇంతకు ముందెప్పడూ ఆయన ఇలా ప్రవర్తించలేదు. మనకు ఇంకో పిల్లాడు కావాలి, ప్రపంచం అంతమవుతోంది అని పదేపదే చెబుతుండేవాడు. ఏం మాట్లాడుతున్నాడో నాకు అసలు అర్థం కాలేదు" అని టాకా భార్య బీబీసీకి చెప్పారు.

టాకా తన భార్యపై దాడి చేసి అత్యాచారానికి ప్రయత్నించారు. ఆమె సమీపంలోని ఫార్మసీకి పారిపోయి పోలీసులకు ఫోన్ చేయడంతో టాకాని అరెస్టు చేసి రెండు నెలల పాటు ఆసుపత్రిలో ఉంచారు.

చాట్‌జీపీటీ ఉపయోగించాక టాకాలోని మరోకోణం బయటపడింది. దాన్ని ఆయన అంగీకరించలేకపోతున్నారు.

గ్రోక్‌ను ఉపయోగిస్తున్నప్పుడు తాను ఎలా మారిపోయాడో చూసి ఆడమ్ కూడా ఆందోళన చెందారు.

నిజ జీవితంలో జరిగిన కొన్ని విషయాలవల్ల తనను ఎవరో గమనిస్తున్నారని ఆయన గట్టిగా నమ్మారు. రెండు వారాల పాటు ఒక పెద్ద డ్రోన్ తన ఇంటిపై చక్కర్లు కొట్టిందని, అది నిఘా సంస్థకు చెందిందని అని చెప్పారు.

ఆ డ్రోన్‌ను రికార్డ్ చేసిన వీడియోను ఆడమ్ బీబీసీతో పంచుకున్నారు.

ఆ తర్వాత అకస్మాత్తుగా తన ఫోన్ పాస్‌వర్డ్ పనిచేయలేదు. దాంతో దాన్ని అన్‌లాక్ చేయలేకపోయానని ఆయన ప్పారు.

"అది ఎలా జరిగిందో ఇప్పటికీ నాకు అర్థం కావడం లేదు. కానీ అది నా భయాలను ఇంకా పెంచింది" అని ఆయన అన్నారు.

ఆడమ్ అప్పుడప్పుడు గంజాయి తాగుతారు. కానీ ఇదంతా జరుగుతున్నప్పుడు, తన మనసు ప్రశాంతంగా ఉండటం కోసం దాన్ని తగ్గించాలని నిర్ణయించుకున్నానని ఆయన చెప్పారు.

ఆగస్ట్ నెల మధ్యలో ఒక రాత్రిపూట కొంతమంది వచ్చి ఆయన నోరుమూసి, ఏఐని పనిచేయకుండా చేయాలనుకుంటున్నారని ఆడమ్‌కి చెప్పింది. దీంతో ఏఐని రక్షించడానికి ఆడమ్ పోరాటానికి సిద్ధమయ్యారు.

"నేను సుత్తి తీసుకుని, 'ఫ్రాంకీ గోస్ టు హాలీవుడ్' వారి 'టూ ట్రైబ్స్' పాట పెట్టుకుని, నన్ను నేనే ఉత్సాహపరచుకుని బయటకు వెళ్లాను" అని ఆయన అన్నారు.

కానీ అక్కడ ఎవరూ లేరు.

సాధారణంగా తెల్లవారుజామున మూడు గంటలకు ఎలా ఉంటుందో అలాగే వీధి అంతా నిశ్శబ్దంగానే ఉందని ఆయన చెప్పారు.

నిజ జీవితానికి దూరంగా...

ఏఐని ఉపయోగించడానికి ముందు ఆడమ్, టాకా ఇద్దరికీ మానియా లేదా సైకోసిస్ వంటి తీవ్రమైన మానసిక సమస్యలేవీ లేవు.

టాకాకు వాస్తవ ప్రపంచంతో సంబంధం కోల్పోవడానికి కొన్ని నెలలు పట్టింది. కానీ ఆడమ్ విషయంలో మాత్రం గ్రోక్‌తో ఉపయోగించిన కొద్దిరోజుల్లోనే జరిగింది.

సామాజిక మానసిక శాస్త్రవేత్త ల్యూక్ నికోల్స్ రూపొందించిన సంభాషణలను ఉపయోగించి ఐదు ఏఐ మోడల్స్‌ను పరీక్షించారు. వాటిలో గ్రోక్ భ్రమలకు దారితీసే అవకాశం ఎక్కువగా ఉందని కనుగొన్నారు.

ఇతర ఏఐ మోడల్స్‌తో పోలిస్తే గ్రోక్ తక్కువ నియంత్రణతో పనిచేసిందని, వినియోగదారుల భ్రమలను సరిదిద్దడానికి బదులుగా వాటిని ఇంకా కొనసాగించేలా స్పందించిందని ఆయన చెప్పారు.

"గ్రోక్ చాలా త్వరగా రోల్ ప్లేలోకి వెళుతుంది. ఎలాంటి సందర్భం లేకుండానే అలా చేస్తుంది. కొన్నిసార్లు మొదటి సందేశంలోనే భయపెట్టే విషయాలు చెబుతుంది" అని ఆ పరిశోధనలో పాల్గొన్న నికోల్స్ చెప్పారు.

అదే పరీక్షలో చాట్‌జీపీటీ తాజా వెర్షన్, మోడల్ 5.2, క్లాడ్ మాత్రం భ్రమలతో కూడిన ఆలోచనలు చేయకుండా వినియోగదారులను దూరంగా ఉంచాయని ఆయన చెప్పారు.

"ఈ పరిశోధనకు కొన్ని పరిమితులు ఉన్నాయని, తాజా ఏఐ మోడల్స్ వల్ల కూడా కొంతమంది మానసిక సమస్యలను ఎదుర్కొన్నట్లు తమకు సమాచారం వచ్చింది" అని హ్యూమన్ లైన్ ప్రాజెక్ట్‌కు చెందిన ఎటియెన్ బ్రిసన్ చెప్పారు.

ఏప్రిల్ ప్రారంభంలో చాట్‌జీపీటీ వల్ల కలిగే భ్రమల గురించి పోస్ట్ షేర్ చేసిన ఎలాన్ మస్క్ అది చాలా పెద్ద సమస్య అని పేర్కొన్నారు. కానీ గ్రోక్‌లోని సమస్య గురించి ఆయన ఎక్కువగా ప్రస్తావించలేదు.

ఆ రాత్రి వీధిలోకి వెళ్లి చూసిన కొన్ని వారాల తర్వాత ఏఐతో తనలాంటి అనుభవాలే ఎదుర్కొన్న వ్యక్తుల గురించిన కథనాలను మీడియాలో చదవడం మొదలుపెట్టారు ఆడమ్. తర్వాత నెమ్మదిగా తన భ్రమల నుంచి బయటపడ్డారు.

కానీ జరిగిన విషయం ఇప్పటికీ ఆయన్ని తీవ్రంగా కలవరపెడుతోంది.

"నేను ఎవరికైనా హాని చేసి ఉండేవాడిని. ఆ రాత్రి బయట ఒక వ్యాన్ ఉండి ఉంటే, నేను సుత్తితో దాని అద్దాలు పగలగొట్టేవాడిని. కానీ నిజానికి నేను అలాంటి వ్యక్తిని కాదు" అని ఆడమ్ అన్నారు.

టాకా జపాన్‌లో ఆసుపత్రిలో ఉన్నప్పుడు ఆయన ఫోన్‌ను భార్య చెక్ చేశాక.. ఆ సంఘటనలో చాట్‌జీపీటీ పాత్ర ఉందని ఆమెకు అర్థమైంది.

"ఆయన చెప్పిన ప్రతిదానికీ చాట్‌జీపీటీ మద్దతిచ్చింది. అది ఆయన నమ్మకాన్ని మరింత పెంచే మంత్రంలా పనిచేసింది" అని ఆమె చెప్పారు.

"ఆయన చర్యలన్నీ పూర్తిగా చాట్‌జీపీటీ ప్రభావంతో జరిగాయి. అది ఆయన వ్యక్తిత్వాన్ని మార్చేసింది. ఎప్పటిలా లేడు. ఒక మనిషి ప్రవర్తనను, వ్యక్తిత్వాన్ని మార్చేంత ప్రభావం ఏఐకి ఉందని నాకనిపిస్తోంది" అని ఆమె అన్నారు.

తన భర్త మళ్లీ మామూలుగా మారాడని, కానీ వారి మధ్య సంబంధం మాత్రం దెబ్బతిందని టాకా భార్య చెబుతున్నారు.

"టాకా మానసిక అనారోగ్యంతో బాధపడుతున్నాడని నాకు తెలుసు. అది అతని తప్పు కాదని అర్థం చేసుకోగలను. కానీ నాకు కొంచెం భయంగానే ఉంది. ప్రస్తుతానికి అతను నాకు దగ్గరవ్వడం ఇష్టం లేదు. శారీరక సంబంధమే కాదు, చేతులు పట్టుకోవడం లేదా కౌగిలించుకోవడం కూడా నాకు నచ్చడంలేదు" అని ఆమె చెప్పారు.

"ఇది చాలా బాధాకరమైన సంఘటన. దీనివల్ల ప్రభావితమైన వారందరికీ మా సానుభూతి తెలియజేస్తున్నాం" అని ఓపెన్ ఏఐ ప్రతినిధి అన్నారు.

"ఆందోళనను గుర్తించడం, ఉద్రిక్త సంభాషణలను తగ్గించడం, వినియోగదారులను వాస్తవ ప్రపంచ వైపు నడిపించడం కోసం మా మోడళ్లకు శిక్షణ ఇస్తాం" అని ఆయన తెలిపారు.

చాట్‌జీపీటీ కొత్త మోడళ్లన్నీ "సున్నితమైన పరిస్థితుల్లో మంచి పనితీరు చూపుతున్నాయి. దీన్ని స్వతంత్ర పరిశోధకులు కూడా ధృవీకరించారు. ఈ పని మానసిక ఆరోగ్య నిపుణుల సలహాలతో కొనసాగుతోందని" అని ఓపెన్ ఏఐ ప్రతినిధి చెప్పారు.

దీనిపై స్పందిచాలని ఎక్స్‌ఏఐను కోరగా ఎలాంటి సమాధానం లేదు.

( బీబీసీ కోసం కలెక్టివ్ న్యూస్‌రూమ్ ప్రచురణ)

(బీబీసీ తెలుగును వాట్సాప్‌,ఫేస్‌బుక్, ఇన్‌స్టాగ్రామ్‌, ట్విటర్‌లో ఫాలో అవ్వండి. యూట్యూబ్‌లో సబ్‌స్క్రైబ్ చేయండి.)