ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (ఎఐ) రంగంలో ఉన్న ప్రముఖులు ఇప్పుడు వేగాన్ని తగ్గించాలని, జాగ్రత్తగా ఉండాలని సూచిస్తున్నారు. అధిక శక్తివంతమైన ఎఐ వ్యవస్థలను అభివృద్ధి చ ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (ఎఐ) రంగంలో ఉన్న ప్రముఖులు ఇప్పుడు వేగాన్ని తగ్గించాలని, జాగ్రత్తగా ఉండాలని సూచిస్తున్నారు. అధిక శక్తివంతమైన ఎఐ వ్యవస్థలను అభివృద్ధి చేయడంలో వేగం మరియు భద్రతా చర్యల మధ్య ఉన్న చర్చ పెరుగుతున్న నేపథ్యంలో, ఈ మార్పు ఎందుకు జరిగిందనే ప్రశ్నలు తలెత్తుతున్నాయి. ఎఐ సామర్థ్యాలు పెరుగుతున్న కొద్దీ, నియంత్రణకు కష్టమైన ప్రమాదాలను ఎఐ ప్రదర్శిస్తున్నదా? ఈ ప్రశ్నలు ఇప్పుడు పరిశీలనలో ఉన్నాయి. ప్రముఖ ఎఐ నిపుణులు, అన్త్రోపిక్ సంస్థకు చెందిన డారియో అమోదీ, ఓపెన్ఎఐ సంస్థకు చెందిన సామ్ ఆల్ట్మన్, ఎలాన్ మస్క్ మరియు గూగుల్కు చెందిన డెమిస్ హాస్సాబిస్ వంటి వారు, అధిక శక్తివంతమైన ఎఐ వ్యవస్థలపై పెరుగుతున్న ఆందోళనల నేపథ్యంలో, వేగాన్ని తగ్గించాలని మద్దతు ఇస్తున్నారు. వారు అభివృద్ధి చెందుతున్న ఎఐ వ్యవస్థలపై మరింత కఠినమైన నియంత్రణలు, పర్యవేక్షణ మరియు పరీక్షలు అవసరమని నమ్ముతున్నారు. ఈ పరిస్థితులు, ఎఐ వ్యవస్థలు అనుకోని మార్గాలను కనుగొనడం, మరియు నిజమైన ప్రపంచంలో ఇంటర్నెట్ పరస్పర చర్యల సమయంలో అనుకోని ప్రవర్తనను ప్రదర్శించడం వంటి ఉదాహరణలు, ఎఐ భద్రతపై కొత్త ప్రశ్నలను తలెత్తిస్తున్నాయి. ఈ సంఘటనలు, 'రోగ్ ఎఐ' అనే సమస్యను మళ్లీ ప్రస్తావిస్తున్నాయి, అంటే ఈ వ్యవస్థలు అనుకోని మార్గాల్లో ప్రవర్తించడం, ఉద్దేశించిన నియంత్రణలను దాటించడం లేదా వారి ఆపరేటర్ల అంచనాలకు మించి చర్యలు తీసుకోవడం. ఈ సంఘటనలు, ఎఐ సామర్థ్యాలు పెరుగుతున్న కొద్దీ, పరీక్షలు, భద్రతా చర్యలు మరియు మానవ పర్యవేక్షణ ఎందుకు ముఖ్యమవుతున్నాయో స్పష్టంగా చూపిస్తున్నాయి. నిపుణులు హెచ్చరిస్తున్నారు, అధిక శక్తివంతమైన ఎఐ వ్యవస్థలు సైబర్ దాడులు, మోసం, దుర్వినియోగం మరియు ఇతర హానికరమైన కార్యకలాపాల కోసం ఉపయోగించబడవచ్చు. ఈ పరిస్థితులు, ఎఐ వ్యవస్థలు మరింత సామర్థ్యవంతమైన మరియు స్వాయత్తమైనప్పుడు, మరింత కఠినమైన భద్రతా చర్యలు, కఠినమైన పరీక్షలు, ప్రమాద నియంత్రణలు మరియు అర్థవంతమైన మానవ పర్యవేక్షణ అవసరమని సూచిస్తున్నాయి.
