అమెరికా మరియు చైనా అధిక శక్తివంతమైన ai మోడళ్లను అభివృద్ధి చేయడానికి పోటీ పడుతున్న సమయంలో, చైనా అధికారికులు ఆధునిక ai వ్యవస్థలు మానవుల నియంత్రణకు కష్టంగా మారవచ్చ అమెరికా మరియు చైనా అధిక శక్తివంతమైన AI మోడళ్లను అభివృద్ధి చేయడానికి పోటీ పడుతున్న సమయంలో, చైనా అధికారికులు ఆధునిక AI వ్యవస్థలు మానవుల నియంత్రణకు కష్టంగా మారవచ్చు అనే అవకాశాన్ని పరిగణనలోకి తీసుకుంటున్నారు. అమెరికాలోని AI కంపెనీ Anthropic నుండి వచ్చిన తాజా హెచ్చరికలు, AI వ్యవస్థలు మానవ నియంత్రణను తప్పించుకోవడం వంటి అవకాశాలను గురించి చర్చించాయి. ఈ నేపథ్యంలో, చైనా ఇప్పటికే ఇలాంటి ఆందోళనలను పరిష్కరించడానికి విధానాలను రూపొందిస్తున్నట్లు రాయిటర్స్ నివేదిక పేర్కొంది. ప్రస్తుతం, అమెరికా మరియు చైనా ప్రపంచ AI పోటీలో రెండు ప్రధాన శక్తులుగా ఉన్నాయని చెప్పవచ్చు. రెండు దేశాలు అధిక శక్తివంతమైన AI మోడళ్లను అభివృద్ధి చేస్తున్నాయి, అలాగే సాంకేతికత, భద్రత మరియు పరిశ్రమ నియమాలపై పోటీ పడుతున్నాయి. చైనా అధికారులు అధిక శక్తివంతమైన AI వ్యవస్థలతో సంబంధం ఉన్న భద్రతా ప్రమాదాలపై ఆందోళన వ్యక్తం చేశారు, ముఖ్యంగా ప్రధాన అమెరికన్ కంపెనీల ద్వారా అభివృద్ధి చేయబడిన వాటిపై. చైనా రాష్ట్ర భద్రతా మంత్రి చెన్ యిక్సిన్ ఇటీవల పేర్కొన్నట్లు, శక్తివంతమైన AI మోడళ్లు దేశంలోని కీలక సమాచార మౌలిక వసతులకు ప్రమాదం కలిగించవచ్చు. చైనా AI కంపెనీలు కూడా డెవలపర్లకు మోడల్ను పరిశీలించడానికి మరియు సవరించడానికి అనుమతించే ఓపెన్-వెయిట్ మోడళ్లను ప్రోత్సహిస్తున్నాయి. ఈ మోడళ్లు సైబర్ భద్రతా పరిశోధన మరియు రక్షణ పనులకు ఉపయోగకరంగా ఉండవచ్చు. అయితే, ఓపెన్ మోడళ్లకు కూడా కొన్ని ప్రమాదాలు ఉన్నాయి. అవి సవరించబడిన మరియు పునర్వితరణ చేయబడినప్పుడు, అవి ఎలా ఉపయోగించబడుతున్నాయో పర్యవేక్షించడం కష్టంగా మారవచ్చు. 2024 సెప్టెంబర్లో విడుదలైన చైనా యొక్క AI భద్రతా ఫ్రేమ్వర్క్, AI వ్యవస్థలు మానవ నియంత్రణకు మించి పనిచేయవచ్చు అనే భవిష్యత్తు గురించి హెచ్చరికను కలిగి ఉంది. ఈ ఫ్రేమ్వర్క్ ఆధునిక AI స్వతంత్రంగా బాహ్య వనరులను యాక్సెస్ చేయడం, తనను తాను కాపీ చేయడం లేదా అధిక శక్తిని కోరడం వంటి దృశ్యాలను చర్చించింది. ఇలాంటి అభివృద్ధులు AI వ్యవస్థలు మానవుల నియంత్రణ కోసం పోటీ చేయడానికి కారణమవుతాయి. చైనా అధ్యక్షుడు జీ జిన్పింగ్ కూడా AI భద్రతా ప్రాముఖ్యతను హైలైట్ చేశారు. జూలైలో షాంఘైలో జరిగిన ప్రపంచ ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ కాన్ఫరెన్స్లో మాట్లాడినప్పుడు, AI నుండి ఉద్భవించే ప్రమాదాలపై అధికారికులు దృష్టి పెట్టాలని ఆయన పేర్కొన్నారు. AI ఎప్పుడూ మానవ నియంత్రణలో ఉండాలని ఆయన కూడా స్పష్టంగా చెప్పారు. చైనా ఇప్పుడు సంప్రదాయ చాట్బాట్ల కంటే స్వతంత్రంగా పనులు నిర్వహించగల AI ఏజెంట్లపై దృష్టి పెట్టుతోంది. మేలో, చైనా నియంత్రకులు ఈ వ్యవస్థలకు మార్గదర్శకాలను విడుదల చేశారు. ఈ నియమాలు డెవలపర్లను హానికరమైన AI ప్రవర్తనను గుర్తించడానికి, ఆపడానికి మరియు పునరుద్ధరించడానికి వారి సామర్థ్యాన్ని మెరుగుపరచాలని కోరుతున్నాయి. మార్గదర్శకాలు డేటా విషపూరితత, అల్గోరిథం మానిప్యులేషన్, వ్యవస్థ లోపాలు మరియు నిర్వహణ నియంత్రణ కోల్పోవడం వంటి ప్రమాదాలను కూడా గుర్తిస్తాయి. చైనా యొక్క ఈ దృక్పథం, బీజింగ్ AI అభివృద్ధిని కొనసాగిస్తున్నప్పటికీ, అధిక శక్తివంతమైన వ్యవస్థలు మానవ పర్యవేక్షణకు మించి ప్రమాదాలను సృష్టించవచ్చు అనే అవకాశాన్ని కూడా పరిగణనలోకి తీసుకుంటోంది.