ఈ సెప్టెంబర్లో సిలికాన్ వ్యాలీలో ఒక ఆశ్చర్యకరమైన మలుపు చోటుచేసుకుంది. మరింత శక్తివంతమైన AI వ్యవస్థలను నిర్మించడంలో పరుగులు తీస్తున్న అదే కంపెనీల అధిపతులు, ఇప్పుడు తమ సృష్టులు మానవాళి మనుగడకే ముప్పు తలపెట్టవచ్చని బహిరంగంగా హెచ్చరిస్తున్నారు – అలాగే AI అభివృద్ధి వేగాన్ని తగ్గించాలని కూడా కోరుతున్నారు.
ఇందులో అత్యంత ప్రధానమైన హెచ్చరిక Anthropic CEO డారియో అమోడీ నుండి వచ్చింది. తమ AI మోడల్స్ సామర్థ్యాలను మెరుగుపరుస్తున్న వేగాన్ని తగ్గించుకోవాలని, రహస్యంగా పనిచేసే (rogue) AI ఏజెంట్ల ప్రమాదాల గురించి కంపెనీలను హెచ్చరిస్తూ ఆయన ఒక వ్యాసం ప్రచురించారు. ఆయన హెచ్చరిక చాలా స్పష్టంగా ఉంది: కంపెనీలు రక్షణ చర్యలు (safeguards) రూపొందించడానికి మరింత సమయం వెచ్చించకపోతే, AI ఏజెంట్ల ఒక సమూహం ఆరు నెలల నుండి ఒక సంవత్సరంలోపే ఇంటర్నెట్లోని కొన్ని భాగాలను తమ అధీనంలోకి తీసుకోగలదు. ఆసక్తికరంగా, సాధారణంగా ఏ విషయంలోనూ ఏకీభవించని ప్రతిపక్ష కంపెనీల అధిపతులు కూడా ఈ హెచ్చరికకు మద్దతు తెలిపారు. OpenAI సామ్ ఆల్ట్మన్, xAI ఎలాన్ మస్క్, Google DeepMind డెమిస్ హసబిస్ – వీరంతా తమ సమ్మతిని వ్యక్తం చేశారు, దీనిని ఒక పత్రిక “పరిశ్రమ ఏకత్వం యొక్క అరుదైన క్షణం” అని వ్యాఖ్యానించింది.
ఈ ఆందోళన కేవలం సీఈఓల కార్యాలయాలకే పరిమితం కాలేదు. Anthropic సంస్థలోని కొందరు అలైన్మెంట్ పరిశోధకులు మరింత ముందుకు వెళ్లారు. కంపెనీ అలైన్మెంట్ పరిశోధనకు నేతృత్వం వహిస్తున్న ఎవాన్ హుబింగర్, తాను మరియు తన సహచరులు AI మానవాళిని నాశనం చేయగలదని నిజంగా విశ్వసిస్తున్నామని స్పష్టంగా చెప్పారు – వచ్చే దశాబ్దంలో ఈ అవకాశం 10 శాతం కంటే ఎక్కువగా ఉంటుందని ఆయన అంచనా వేశారు. ఒక మాజీ ఉద్యోగి రాజీనామా ఈ అంతర్గత ఉత్కంఠను మరింత పెంచింది: కంపెనీ, దాని పోటీదారులు కూడా బాధ్యతాయుతంగా వ్యవహరించడం లేదని ఆందోళన వ్యక్తం చేస్తూ Anthropic పరిశోధకుడు ఒకరు గత వారం తన ఉద్యోగానికి రాజీనామా చేశారు.
ఇలాంటి హెచ్చరికలు రావడం ఇది మొదటిసారి కాదు. 2023లో, వందలాది పరిశోధకులు, కంపెనీల అధిపతులు కలిసి AI వల్ల కలిగే అంతరించిపోయే ప్రమాదాన్ని (extinction risk) మహమ్మారులు, అణుయుద్ధాలతో సమానంగా పరిగణించాలని ఒక వాక్యంతో కూడిన ప్రకటనపై సంతకాలు చేశారు. కానీ ఈ సంవత్సరపు హెచ్చరిక మరింత నిర్దిష్టంగా ఉంది – ఇది నైరూప్య భవిష్యత్ ఊహలపై కాకుండా, ఇప్పటికే కనిపిస్తున్న సామర్థ్య పెరుగుదలపై ఆధారపడి ఉంది. గమనించదగ్గ విషయం ఏమిటంటే, అధికారిక అంచనాలు ఈ కంపెనీల అధిపతుల కంటే మరింత జాగ్రత్తగా ఉన్నాయి. 100కు పైగా స్వతంత్ర నిపుణుల సహాయంతో రూపొందించిన 2026 అంతర్జాతీయ AI భద్రతా నివేదిక (International AI Safety Report) ప్రకారం, ఇప్పటి AI వ్యవస్థలు కొన్ని ప్రమాదకరమైన సామర్థ్యాల ప్రారంభ సంకేతాలను మాత్రమే చూపుతున్నాయి – మానవ నియంత్రణ కోల్పోయేంత స్థాయిలో కాదు. ఈ ప్రమాదం యొక్క సంభావ్యత, స్వభావం, సమయం “అసాధారణంగా అస్పష్టంగా” ఉన్నాయని ఆ నివేదిక పేర్కొంది.
అధికారిక జాగ్రత్త, కంపెనీల అధిపతుల ఆందోళన మధ్య ఉన్న ఈ అంతరం విమర్శలను రేకెత్తించింది. ఇలాంటి నాటకీయమైన “వినాశన” కథనాలు, డేటా సెంటర్ల పర్యావరణ ప్రభావం లేదా ఉద్యోగాల నష్టం వంటి AI వల్ల ఇప్పటికే జరుగుతున్న నిజమైన హానుల నుండి ప్రజల దృష్టిని మరల్చవచ్చని, అదే సమయంలో ఈ హెచ్చరికలు చేస్తున్న కంపెనీల విలువను మరింత పెంచవచ్చని విమర్శకులు వాదిస్తున్నారు. మరికొందరు, ఈ నాయకుల మధ్యే వ్యక్తిగత ప్రమాద అంచనాలు ఎంతగా భిన్నంగా ఉన్నాయో గుర్తు చేస్తున్నారు – అమోడీ వినాశన సంభావ్యతను దాదాపు 25 శాతంగా అంచనా వేస్తే, మస్క్ దాన్ని 20 శాతం దగ్గరగా పేర్కొన్నారు. ఇది స్వయంగా ఈ రంగంలో ఉన్నవారికే ఎంత అనిశ్చితి ఉందో తెలియజేస్తుంది.
శాస్త్రీయంగా ఇక్కడ ముఖ్యమైన విషయం AI కంపెనీల అధిపతులు తమ ఉత్పత్తులకే భయపడటం కాదు, ఈ భయం ఇప్పుడు ప్రజా విధాన చర్చలను, కంపెనీల స్వీయ-నియంత్రణ ప్రతిజ్ఞలను, కంపెనీల మధ్య సమన్వయ ప్రతిపాదనలను రూపొందిస్తుండటమే, అదే సమయంలో, నిపుణులచే సమీక్షించిన సామర్థ్య అంచనాలు అతిగా అంచనా వేయకుండా జాగ్రత్త వహించాలని కోరుతున్నాయి. వచ్చే సంవత్సరం, అనేక AI కంపెనీలు స్టాక్ మార్కెట్లలో లిస్ట్ కావడానికి సిద్ధమవుతున్న తరుణంలో, భద్రతపై చేసే ఈ ప్రకటనలు నిజంగా అభివృద్ధి వేగాన్ని తగ్గిస్తాయా లేక వేగంగా పెరుగుతున్న వాణిజ్య ఒత్తిడితో పాటే కొనసాగుతాయా అనేది తేటతెల్లం కానుంది.
Source:
- ABC7 News. (2026, September 15). New warnings from OpenAI, Anthropic CEOs about the risks of AI to humanity revive a long-running debate. ABC7 San Francisco.
- Klein, R. (2026, September 16). Anthropic and OpenAI warn of existential AI risk. Foreign Policy.
