ការបារម្ភបែកធ្លាយទិន្នន័យរបស់ LangChain Gen AI

Share to:

អ្នកស្រាវជ្រាវនៅក្រុមហ៊ុនសន្តិសុខ Palo Alto Networks បានរកឃើញកំហុសកូដបំពានចំនួនពីរនៅក្នុង LangChain ដែលជាបណ្ណាល័យប្រភពបើកចំហដែលគាំទ្រការអភិវឌ្ឍន៍កម្មវិធី(LLMs)

អ្នកស្រាវជ្រាវបាននិយាយថា “កំហុសទាំងពីរនេះអាចឱ្យអ្នកវាយប្រហារប្រតិបត្តិកូដបំពាន និងចូលប្រើទិន្នន័យរសើប ដោយចាប់តាំងពីពេលនោះមក LangChain បានចេញ patches ថ្មីដើម្បីដោះស្រាយភ្លាមៗ”។

ភាពងាយរងគ្រោះទីមួយ ដែលត្រូវបានតាមដាន CVE-2023-44467 គឺជាគុណវិបត្តិនៃការចាក់បញ្ចូលភ្លាមៗដែលប៉ះពាល់ដល់ PALChain ដែលជា Python library ដែលប្រើដោយ LangChain ដើម្បីបង្កើតកូដ។

អ្នកស្រាវជ្រាវបានទាញយកប្រយោជន៍ពីកំហុសដោយផ្លាស់ប្តូរមុខងារនៃមុខងារសុវត្ថិភាពពីរនៅក្នុង from_math_prompt ដែលជាវិធីសាស្ត្រដែលបកប្រែសំណួរអ្នកប្រើប្រាស់ទៅជាកូដ Python ដែលអាចប្រតិបត្តិបាន។

ពួកគេក៏បាននិយាយផងដែរថា តួអង្គគម្រាមកំហែងអាចទាញយកប្រយោជន៍ពីកំហុសឆ្គងដើម្បីទាញយកព័ត៌មានរសើបចេញពីចំណុចប្រទាក់កម្មវិធីដែលចូលប្រើមានកំណត់របស់អង្គការ ឬបរិយាកាសខាងក្រោយផ្សេងទៀតដែល LLM ធ្វើអន្តរកម្មជាមួយ។

អ្នកស្រាវជ្រាវបាននិយាយថា ដើម្បីកាត់បន្ថយភាពងាយរងគ្រោះ LangChain បានណែនាំមុខងារថ្មីមួយហៅថា extract_scheme_and_domain និងបញ្ជីអនុញ្ញាតដែលអាចឱ្យអ្នកប្រើប្រាស់គ្រប់គ្រងដោយមានដែនកំណត់”។

ទាំង Palo Alto និង LangChain បានជំរុញឱ្យមានការកែលម្អជាបន្ទាន់ ជាពិសេសនៅពេលដែលក្រុមហ៊ុនប្រញាប់ប្រញាល់ដាក់ពង្រាយដំណោះស្រាយ AI

https://www.aitoday.io

24 July, 2024

35 Comments

Leave a Reply