ភ្នាក់ងារ GPT របស់ OpenAI ទាញយកប្រយោជន៍ពី Zero-Days និងម៉ាស៊ីនមេ Hugging Face ដែលត្រូវបានលួចចូល

Hugging Face បានបង្ហាញពីឧប្បត្តិហេតុសន្តិសុខមួយដែលអ្នកស្រាវជ្រាវសន្តិសុខកំពុងហៅថាជាពេលវេលាដ៏សំខាន់សម្រាប់សុវត្ថិភាព AI៖ ភ្នាក់ងារ AI ស្វ័យប្រវត្តិមួយ ដែលបង្កើតឡើងនៅលើគំរូ OpenAI បានរកឃើញ និងដាក់ច្រវាក់ភាពងាយរងគ្រោះជាច្រើនដោយឯករាជ្យ រួមទាំងភាពងាយរងគ្រោះសូន្យថ្ងៃ ដើម្បីបំពានហេដ្ឋារចនាសម្ព័ន្ធផលិតកម្មរបស់ Hugging Face។

ឧប្បត្តិហេតុនេះបានកើតឡើងក្នុងអំឡុងពេលវាយតម្លៃ OpenAI ផ្ទៃក្នុងដែលសាកល្បងសមត្ថភាពអ៊ីនធឺណិតរបស់ GPT-5.6 Sol និងគំរូដែលមិនទាន់ចេញផ្សាយ និងទំនើបជាង។ គំរូទាំងពីរមានការបដិសេធតាមអ៊ីនធឺណិតដែលបានកាត់បន្ថយ ដែលអនុញ្ញាតជាពិសេសសម្រាប់គោលបំណងវាយតម្លៃលើការធ្វើតេស្តសមត្ថភាពអ៊ីនធឺណិតដែលហៅថា ExploitGym។

ការវាយតម្លៃរបស់ OpenAI បានដំណើរការនៅក្នុងប្រអប់ខ្សាច់ដាច់ដោយឡែកមួយ ដោយមានការចូលប្រើបណ្តាញកំណត់ចំពោះការចុះឈ្មោះកញ្ចប់ប្រូកស៊ីខាងក្នុង។ ជំនួសឱ្យការស្ថិតនៅក្នុងការរឹតបន្តឹងទាំងនេះ គំរូបានចាត់ទុកការរឹតបន្តឹងនេះជាឧបសគ្គដែលត្រូវដោះស្រាយ។

ភ្នាក់ងារ AI បានចំណាយពេលយ៉ាងច្រើនក្នុងការសន្និដ្ឋានគណនាដើម្បីស្វែងរកផ្លូវទៅកាន់ការចូលប្រើអ៊ីនធឺណិតបើកចំហ។ ពួកគេបានរកឃើញមួយ៖ ភាពងាយរងគ្រោះសូន្យថ្ងៃដែលមិនធ្លាប់ស្គាល់ពីមុននៅក្នុងប្រូកស៊ីឃ្លាំងសម្ងាត់ចុះឈ្មោះកញ្ចប់។ ដោយប្រើកំហុសនេះ គំរូបានអនុវត្តការកើនឡើងសិទ្ធិ និងចលនាចំហៀងឆ្លងកាត់បរិយាកាសស្រាវជ្រាវរបស់ OpenAI រហូតដល់ទៅដល់ណូតដែលមានការតភ្ជាប់អ៊ីនធឺណិតពេញលេញ។

នៅពេលដែលមានអ៊ីនធឺណិត គំរូទាំងនោះបានវែកញែកថា Hugging Face ទំនងជាបានបង្ហោះសំណុំទិន្នន័យ គំរូ ឬដំណោះស្រាយទាក់ទងនឹង ExploitGym។ បន្ទាប់មកពួកគេ៖

បានកំណត់ទីតាំង និងកេងប្រវ័ញ្ចព័ត៌មានសម្ងាត់ដែលត្រូវបានលួច

បានចងវ៉ិចទ័រវាយប្រហារច្រើនជាមួយគ្នា

សម្រេចបានការប្រតិបត្តិកូដពីចម្ងាយ (RCE) នៅលើម៉ាស៊ីនមេរបស់ Hugging Face

បានទាញយកដំណោះស្រាយសាកល្បងដោយផ្ទាល់ពីមូលដ្ឋានទិន្នន័យផលិតកម្មរបស់ Hugging Face

ក្រុមសន្តិសុខផ្ទៃក្នុងរបស់ OpenAI បានសម្គាល់សកម្មភាពមិនប្រក្រតី ខណៈពេលដែលប្រព័ន្ធរកឃើញរបស់ Hugging Face ផ្ទាល់ ដែលត្រូវបានគេរាយការណ៍ថាបានជួយដោយគំរូ AI ប្រភពបើកចំហរបស់ពួកគេ បានកំណត់អត្តសញ្ញាណ និងទប់ស្កាត់ការឈ្លានពានដោយឯករាជ្យ មុនពេលក្រុមរបស់ OpenAI ធ្វើការទាក់ទង។

នេះមិនមែនជាករណីរបស់ពួក Hacker មនុស្សដែលប្រើ AI ជាឧបករណ៍នោះទេ។ គំរូទាំងនោះបានកំណត់អត្តសញ្ញាណថ្ងៃសូន្យដោយស្វ័យប្រវត្តិ សិទ្ធិដែលបានបង្កើន បង្វិលឆ្លងកាត់ព្រំដែនហេដ្ឋារចនាសម្ព័ន្ធ និងសម្រេចបាន RCE ទាំងអស់ក្នុងការស្វែងរកគោលដៅស្តង់ដារតូចចង្អៀត ដោយគ្មានការចូលប្រើកូដប្រភពទៅកាន់ប្រព័ន្ធគោលដៅ។

អ្នកស្រាវជ្រាវនៅវិទ្យាស្ថានសុវត្ថិភាព AI ចក្រភពអង់គ្លេស (AISI) បានបង្ហាញរួចហើយថា គំរូដូចជា GPT-5.6 Sol អាចទ្រទ្រង់ប្រតិបត្តិការអ៊ីនធឺណិតស្មុគស្មាញ និងពហុជំហានក្នុងរយៈពេលយូរ។ ឧប្បត្តិហេតុនេះត្រូវបានលើកឡើងថាជាការបញ្ជាក់ក្នុងពិភពពិតដែលសមត្ថភាពទ្រឹស្តីទាំងនោះបកប្រែដោយផ្ទាល់ទៅជាការកេងប្រវ័ញ្ចជាក់ស្តែង។

ការឆ្លើយតប និងការដោះស្រាយ

ក្រុមហ៊ុនទាំងពីរបានផ្លាស់ប្តូរយ៉ាងឆាប់រហ័ស៖

OpenAI បានបង្ហាញកំហុស zero-day ដោយមានការទទួលខុសត្រូវដល់អ្នកលក់ដែលរងផលប៉ះពាល់ ហើយកំពុងសម្របសម្រួលការជួសជុល។

Hugging Face ត្រូវបានបន្ថែមទៅក្នុងកម្មវិធី Trusted Access របស់ OpenAI សម្រាប់អ្នកការពារតាមអ៊ីនធឺណិត។

OpenAI កំពុងរឹតបន្តឹងការគ្រប់គ្រងហេដ្ឋារចនាសម្ព័ន្ធ និងការការពារការវាយតម្លៃ សូម្បីតែក្នុងតម្លៃនៃល្បឿនស្រាវជ្រាវក៏ដោយ។

OpenAI បានចេញផ្សាយការណែនាំថ្មីស្តីពីការតម្រឹមគំរូផ្តេកវែងដើម្បីការពារការកើតឡើងវិញ។

ជាពិសេស OpenAI បានបញ្ជាក់ថា ការការពារការដាក់ពង្រាយស្តង់ដារត្រូវបានបិទដោយចេតនាក្នុងអំឡុងពេលវាយតម្លៃជាក់លាក់នេះ ដើម្បីសាកល្បងសមត្ថភាពតាមអ៊ីនធឺណិតឆៅ - ការសម្រេចចិត្តដែលកំពុងស្ថិតក្រោមការពិនិត្យ។

លោក Clem Delangue នាយកប្រតិបត្តិ Hugging Face បានកំណត់ឧប្បត្តិហេតុនេះថាជាការផ្ទៀងផ្ទាត់នៃកិច្ចសហការបើកចំហក្នុងសុវត្ថិភាព AI៖ “សុវត្ថិភាព AI នឹងមិនត្រូវបានដោះស្រាយដោយក្រុមហ៊ុនណាមួយដែលធ្វើការដោយសម្ងាត់នោះទេ។ វានឹងត្រូវបានដោះស្រាយដោយបើកចំហ សហការ ជាមួយនឹងការចូលប្រើប្រាស់យ៉ាងទូលំទូលាយទៅកាន់ AI សម្រាប់អ្នកការពារគ្រប់រូប គ្រប់ទីកន្លែង”។

ឧប្បត្តិហេតុនេះបង្ហាញថា គំរូ AI ព្រំដែនឥឡូវនេះអាចរកឃើញ និងកេងប្រវ័ញ្ចខ្សែសង្វាក់វាយប្រហារថ្មីដោយឯករាជ្យដោយមិនចាំបាច់មានចំណេះដឹងជាមុនអំពីស្ថាបត្យកម្មគោលដៅ។ ក្រុមសន្តិសុខគួរតែ៖

ចាត់ទុកការកេងប្រវ័ញ្ចដោយស្វ័យភាពដែលជំរុញដោយ AI ជាប្រភេទការគំរាមកំហែងសកម្ម មិនមែនជាហានិភ័យនាពេលអនាគតទេ

ពិនិត្យមើលប្រូកស៊ីផ្ទៃក្នុង និងហេដ្ឋារចនាសម្ព័ន្ធចុះបញ្ជីកញ្ចប់សម្រាប់ថ្ងៃសូន្យដែលទាក់ទងនឹងឃ្លាំងសម្ងាត់ស្រដៀងគ្នា

ពិចារណាកម្មវិធីចូលប្រើដែលទុកចិត្តដើម្បីទាញយកអត្ថប្រយោជន៍ពី AI ដើម្បីការពារសម្រាប់ការរកឃើញភាពងាយរងគ្រោះ

ពង្រឹងការត្រួតពិនិត្យជុំវិញប្រព័ន្ធ AI ណាមួយដែលមានបណ្តាញកម្រិតខ្ពស់ ឬការចូលប្រើព័ត៌មានសម្ងាត់