Қасым-Жомарт Тоқаевтың Суперинтеллект туралы келісімді жаһандық деңгейде қолдануға болатын модель ретінде қарастыру жөніндегі ұсынысы жасанды интеллектіні дамыту жауапкершілігін бөлу мәселесін қозғайды.
Президент мұндай қадамның шарты ретінде мүдделі мемлекеттердің мұқият талқылауын атап өтті. Бұл тәсілді орынды деп санаймын. Бір компанияның технологиялық шешімдері әртүрлі мемлекеттерде қолданылған кезде, қателердің салдары оның жекелеген тұтынушымен қарым-қатынасынан тыс шығады. Қауіптерді кім бағалайтынын, әзірлеушілер қандай мәліметтерді ұсынуы тиіс екенін және қауіп анықталған жағдайда қалай әрекет ету керектігін келісу қажеттілігі туындайды.
Дональд Трамптың бастамасының практикалық маңызы озық жасанды интеллект жүйелерін тікелей әзірлейтін компаниялармен қауіпсіздік қағидаттарын келісуде жатыр.
Келісім бақылаудың төрт деңгейін қарастырады: (1) модельдерді бақылаудың ішкі рәсімдері, (2) осы рәсімдерді тексеретін жеке команда, (3) тәуелсіз сыртқы бағалау және (4) директорлар кеңесі комитетінің қадағалауы.
Құжат сондай-ақ қауіпсіздік стандарттарын әзірлеу үшін қатысушылардың тұрақты кездесулерін көздейді. Мұндай құрылым жауапкершілік мәселесін компанияның өз ішінде қоюға мүмкіндік береді: анықталған мәселе техникалық маманнан оны жою туралы шешім қабылдай алатын басшылыққа дейін жетуі тиіс.
Әзірлеушілердің қатысуының өзіндік маңызы бар. Олар модельдерді оқыту, сынақ нәтижелері және анықталған шектеулер туралы ақпаратқа ие. Мемлекеттік органдар күрделі жүйенің қауіпсіздігін бұл мәліметтерге қол жеткізбей бағалауда қиындыққа тап болады. Сыртқы тексеру білімдегі осы алшақтықты ішінара қысқартуы мүмкін. Ол үшін аудиторларға жеткілікті өкілеттік және компанияның нақты рәсімдерін бағалау мүмкіндігі қажет. Тексерудің мәні мәлімделген талаптардың іс жүзінде орындалатынын және олардың жүйенің қауіпті мінез-құлқын дер кезінде анықтауға мүмкіндік беретінін белгілеуде.
Бәсекелес компаниялар арасындағы тәсілдерді үйлестіру саланың өз ішіндегі ынталандыруларға да әсер етуі мүмкін. Егер әзірлеуші қосымша сынақтар өнімнің шығарылуын кешіктіреді деп болжаса, ал бәсекелесі нарыққа ертерек шықса, жеделдетуге қысым пайда болады. Тексеруге қойылатын ортақ талаптар мұндай қысымды азайтуы мүмкін. Қауіпсіздік әзірлеудің алдын ала белгілі шартына айналады. Бұған қол жеткізу үшін қатысушылар өз міндеттемелерін тең негізде орындауы тиіс: талаптарды ішінара ғана орындау тексерулер кезінде жеңілдіктерге жүгінген тараптардың артықшылығын сақтап қалар еді.
Сонымен бірге келісім ерікті сипатта. Оған қол қою қағидаттарға қатысты келісімді бекітеді, ал нәтиже кейінгі орындалуына байланысты болады.
Аудиторлардың тәуелсіздігі қалай қамтамасыз етілетінін, олардың қорытындыларына кімдердің қол жеткізе алатынын және елеулі бұзушылықтар анықталған жағдайда не болатынын түсіну қажет. Бұл мәселелер одан әрі талқылаудың бір бөлігіне айналуы тиіс. Мұндай тетікке деген сенім компаниялардың анықталған проблемаларды жойып, өз шешімдерін түзетіп отырғанын растайтын деректер пайда болған сайын қалыптасады.
Президент Тоқаевтың ұсынысы келесі мәселені қоюға мүмкіндік береді: осы тәсілдің қандай элементтері халықаралық деңгейде жұмыс істей алады?
Шетелдік технологияларды пайдаланатын мемлекеттер үшін қауіпсіздік талаптарын айқындауға қатысу мүмкіндігі маңызды. Ақаулар орын алған жағдайда олар цифрлық қызметтердің шығындарын көтереді және жасанды интеллектіні енгізудің салдары үшін өз азаматтарының алдында жауап береді. Сондықтан халықаралық талқылау осы елдердің тәжірибесі мен қажеттіліктерін ескеруі тиіс. Оның нысаны тәуекелдерді бағалаудың салыстырмалы әдістері және елеулі инциденттер туралы хабарлаудың келісілген рәсімдері болуы мүмкін.
Мұндай талқылау технологиялық бәсекемен сөзсіз байланысты болады. Мемлекеттер өз компанияларын дамытуға және сезімтал ақпаратты қорғауға мүдделі. Коммерциялық құпия мен ұлттық талаптарды ескере отырып, қауіпсіздікті тексеру үшін жеткілікті ақпарат көлемін анықтау қажет.
Егер қатысу шарттары әртүрлі әзірлеушілер мен мемлекеттер үшін қолайлы болса, ұсынылған модельдің таралу мүмкіндігі артады. Сондықтан Тоқаевтың мұқият талқылау туралы ескертпесі мазмұндық мәнге ие: халықаралық деңгейде қолдану мүмкіндігі келіссөздер барысында әзірленуі тиіс.
Қазақстан үшін бұл процеске қатысу экономика мен мемлекеттік басқаруда енгізілетін шешімдердің сапасымен байланысты. Жасанды интеллект жүйелерін таңдаған кезде тапсырыс беруші оның қандай сынақтардан өткенін, сенімділігінің шекаралары қай жерде екенін және ақауларға кім жауап беруі тиіс екенін түсінуі қажет. Келісілген талаптар жеткізушілерді салыстыруды жеңілдетіп, сатып алу шарттарын айқынырақ етуі мүмкін. Ал отандық әзірлеушілер шетелдік нарықтарға шығуға өнімдерін дайындау үшін неғұрлым түсінікті бағдарларға ие болар еді.
Сонымен қатар Қазақстан қолданылатын технологияларды бағалаудың өзіндік қабілетін дамытуы қажет. Халықаралық аудит пайдалы ақпарат береді, алайда жүйенің нақты міндетке жарамдылығын жергілікті жағдайларды, тілді және өңделетін деректердің сипатын ескере отырып тексеру қажет.
Жасанды интеллект азаматтардың құқықтарына әсер ететін шешімдерге енгізілген сайын мұндай сараптаманың маңызы арта түседі. Халықаралық тәсілдерді қалыптастыруға қатысу мен өз мамандарын даярлау бұл жерде тікелей байланысты: білікті сарапшылар елге ережелерді мазмұнды түрде талқылауға, содан кейін оларды ұлттық тәжірибеде қолдануға мүмкіндік береді.
Айдар Кұрмашев,
ҚР Президенті жанындағы ҚСЗИ, Азиялық зерттеулер бөлімінің басшысы
