Original Title: Ethical AI for the Governance of the Society: Challenges and Opportunities
Source: ceur-ws.org
Disclaimer: Summary generated by AI based on the provided document. Please refer to the original paper for full scientific accuracy.

បញ្ញាសិប្បនិម្មិតប្រកបដោយក្រមសីលធម៌សម្រាប់ការគ្រប់គ្រងសង្គម៖ បញ្ហាប្រឈម និងឱកាស

ចំណងជើងដើម៖ Ethical AI for the Governance of the Society: Challenges and Opportunities

អ្នកនិពន្ធ៖ Nieminen Mika (VTT Technical Research Centre of Finland Ltd.), Gotcheva Nadezhda, Leikas Jaana, Koivisto Raija

ឆ្នាំបោះពុម្ព៖ 2019 CEUR Workshop Proceedings

វិស័យសិក្សា៖ Technology Governance

១. សេចក្តីសង្ខេបប្រតិបត្តិ (Executive Summary)

បញ្ហា (The Problem)៖ ការអភិវឌ្ឍយ៉ាងឆាប់រហ័សនៃបច្ចេកវិទ្យាបញ្ញាសិប្បនិម្មិត (AI) បានបង្កឱ្យមានបញ្ហាប្រឈមផ្នែកសីលធម៌ និងសង្គមដ៏ស្មុគស្មាញ ដែលទាមទារឱ្យមានវិធីសាស្ត្រ និងយន្តការអភិបាលកិច្ចថ្មីៗដើម្បីធានាបាននូវការប្រើប្រាស់ប្រកបដោយចីរភាព និងសុវត្ថិភាពសម្រាប់សង្គម។

វិធីសាស្ត្រ (The Methodology)៖ គម្រោង ETAIROS ប្រើប្រាស់វិធីសាស្ត្រស្រាវជ្រាវអន្តរវិស័យ និងការបង្កើតនវានុវត្តន៍រួមគ្នាជាមួយអ្នកពាក់ព័ន្ធ ដើម្បីរចនាក្របខ័ណ្ឌអភិបាលកិច្ច និងឧបករណ៍វាយតម្លៃជាក់ស្តែង។

លទ្ធផលសំខាន់ៗ (The Verdict)៖

២. ការវិភាគលើប្រសិទ្ធភាព និងដែនកំណត់ (Performance & Constraints)

វិធីសាស្ត្រ (Method) គុណសម្បត្តិ (Pros) គុណវិបត្តិ (Cons) លទ្ធផលគន្លឹះ (Key Result)
Traditional AI Development (Technology-First)
ការអភិវឌ្ឍ AI បែបប្រពៃណី (ផ្តោតលើបច្ចេកវិទ្យាជាចម្បង)
អនុញ្ញាតឱ្យមានការច្នៃប្រឌិត និងការអភិវឌ្ឍបច្ចេកវិទ្យាយ៉ាងឆាប់រហ័សដោយមិនមានការរឹតបន្តឹងផ្នែកបទប្បញ្ញត្តិច្រើននៅដំណាក់កាលដំបូង។ វាជួយពង្រីកសក្តានុពលរបស់ម៉ាស៊ីនឱ្យបានអតិបរមា។ អាចបណ្តាលឱ្យមានផលវិបាកអវិជ្ជមានដែលមិនបានព្រាងទុក ភាពលំអៀងក្នុងសង្គម (Social biases) បញ្ហាឯកជនភាព និងការខ្វះទំនុកចិត្តពីសាធារណជន។ ច្រើនតែប្រឈមនឹងការកែតម្រូវផ្នែកសីលធម៌នៅក្រោយពេលដាក់ឱ្យប្រើប្រាស់ (Post-deployment) និងបង្កហានិភ័យដល់សង្គម។
ETAIROS Multi-disciplinary Co-Innovation Framework
ក្របខ័ណ្ឌសហការនវានុវត្តន៍អន្តរវិស័យ ETAIROS
ធានាបាននូវការចូលរួមពីគ្រប់ភាគីពាក់ព័ន្ធ (រដ្ឋាភិបាល ឯកជន សង្គមស៊ីវិល) ដើម្បីបង្កើត AI ប្រកបដោយក្រមសីលធម៌ តម្លាភាព និងមានគណនេយ្យភាពតាំងពីដំណាក់កាលរចនា។ ទាមទារពេលវេលាយូរ ការសម្របសម្រួលខ្ពស់រវាងអ្នកជំនាញផ្សេងៗគ្នា និងត្រូវការធនធានហិរញ្ញវត្ថុច្រើនសម្រាប់ដំណើរការសហការបង្កើតថ្មី (Co-creation)។ ផ្តល់នូវគំរូរចនា (Design models) និងឧបករណ៍អភិបាលកិច្ចជាក់ស្តែង ដែលអាចកាត់បន្ថយហានិភ័យសីលធម៌ និងទទួលបានការគាំទ្រពីសង្គម។

ការចំណាយលើធនធាន (Resource Cost)៖ ឯកសារនេះមិនបានបញ្ជាក់លម្អិតអំពីថ្លៃដើម ឬធនធានបច្ចេកវិទ្យាជាក់លាក់នោះទេ ប៉ុន្តែវាសង្កត់ធ្ងន់លើការទាមទារការវិនិយោគយ៉ាងខ្លាំងលើធនធានមនុស្ស ការសម្របសម្រួលស្ថាប័ន និងពេលវេលា។

៣. ការពិនិត្យសម្រាប់បរិបទកម្ពុជា/អាស៊ីអាគ្នេយ៍

ភាពលំអៀងនៃទិន្នន័យ (Data Bias)៖

ឯកសារនេះផ្អែកលើបរិបទនៃការស្រាវជ្រាវ ការរចនា និងបរិយាកាសគោលនយោបាយនៅទ្វីបអឺរ៉ុប (ពិសេសប្រទេសហ្វាំងឡង់) ដែលមានហេដ្ឋារចនាសម្ព័ន្ធអភិបាលកិច្ចរឹងមាំ និងសង្គមស៊ីវិលសកម្មរួចទៅហើយ។ សម្រាប់ប្រទេសកម្ពុជា ការទាញយកក្របខ័ណ្ឌនេះមកអនុវត្តទាំងស្រុងអាចជួបប្រឈមនឹងកង្វះខាតទិន្នន័យក្នុងស្រុក ធនធានមនុស្សជំនាញ AI ផ្នែកសីលធម៌ និងស្ថាប័ននិយតកម្មដែលនៅក្មេងខ្ចី ដូច្នេះការសម្របវាទៅតាមបរិបទវប្បធម៌ លទ្ធភាពបញ្ចេញមតិ និងសង្គម-សេដ្ឋកិច្ចកម្ពុជាគឺជារឿងចាំបាច់បំផុត។

លទ្ធភាពនៃការអនុវត្ត (Applicability)៖

វិធីសាស្ត្រនៃការបង្កើតក្របខ័ណ្ឌអភិបាលកិច្ច AI ប្រកបដោយការចូលរួមនេះ គឺពិតជាមានសារៈសំខាន់ខ្លាំងណាស់សម្រាប់ការរៀបចំគោលនយោបាយឌីជីថលប្រកបដោយចីរភាពនៅកម្ពុជា។

ជារួម ការអនុវត្តអភិបាលកិច្ច AI បែបសហការនៅគ្រប់កម្រិត នឹងជួយប្រទេសកម្ពុជាកាត់បន្ថយហានិភ័យសង្គម និងកសាងទំនុកចិត្តរឹងមាំលើការធ្វើបរិវត្តកម្មឌីជីថលប្រកបដោយបរិយាប័ន្ន។

៤. ផែនការសកម្មភាពសម្រាប់និស្សិត (Actionable Roadmap)

ដើម្បីអនុវត្តតាមការសិក្សានេះ និស្សិតគួរអនុវត្តតាមជំហានខាងក្រោម៖

  1. សិក្សាអំពីគោលការណ៍ណែនាំសីលធម៌ AI របស់អន្តរជាតិ: អ្នកស្រាវជ្រាវ ឬនិស្សិតគួរចាប់ផ្តើមដោយការអាន និងវិភាគឯកសារគោលនយោបាយអន្តរជាតិដូចជា EU AI ActUNESCO Recommendation on the Ethics of AI ដើម្បីយល់ពីនិយមន័យ ស្តង់ដារទូទៅ និងបំណែងចែកហានិភ័យនៃប្រព័ន្ធ AI។
  2. អនុវត្តការវាយតម្លៃភាពលំអៀងនៃទិន្នន័យ (Data Bias Assessment): សាកល្បងប្រើប្រាស់ឧបករណ៍បច្ចេកទេសជាក់ស្តែងដូចជា IBM AI Fairness 360 (AIF360)Fairlearn នៅក្នុងគម្រោង Machine Learning របស់ខ្លួន ដើម្បីរៀនពីរបៀបវាស់ស្ទង់ និងកាត់បន្ថយភាពលំអៀងនៅក្នុងទិន្នន័យហ្វឹកហាត់។
  3. រៀបចំវេទិកាសន្ទនាពហុជំនាញ (Multi-disciplinary Dialogue): បង្កើតក្រុមពិភាក្សាខ្នាតតូចនៅសាកលវិទ្យាល័យ ដោយយកគំរូតាម Co-Innovation Forum (CIF) ដែលតម្រូវឱ្យមានការចូលរួមពីនិស្សិតផ្នែកវិទ្យាសាស្ត្រកុំព្យូទ័រ ច្បាប់ និងសង្គមវិទ្យា ដើម្បីរួមគ្នាពិភាក្សាអំពីផលប៉ះពាល់សីលធម៌នៃកម្មវិធី AI ណាមួយ។
  4. បង្កើតបញ្ជីត្រួតពិនិត្យសីលធម៌ AI (AI Ethics Checklist) សម្រាប់កម្ពុជា: អភិវឌ្ឍក្របខ័ណ្ឌវាយតម្លៃ ឬបញ្ជីត្រួតពិនិត្យសាមញ្ញមួយ (impact assessment checklist) ដែលស្របតាមច្បាប់និងវប្បធម៌កម្ពុជា សម្រាប់ជួយដល់ក្រុមអ្នកអភិវឌ្ឍន៍កម្មវិធីក្នុងស្រុក (Startups) ក្នុងការរចនា AI ប្រកបដោយការទទួលខុសត្រូវ។

៥. វាក្យសព្ទបច្ចេកទេស (Technical Glossary)

ពាក្យបច្ចេកទេស ការពន្យល់ជាខេមរភាសា (Khmer Explanation) និយមន័យសាមញ្ញ (Simple Definition)
Artificial General Intelligence (AGI) ប្រព័ន្ធបញ្ញាសិប្បនិម្មិតដែលមានសមត្ថភាពយល់ដឹង គ្រប់គ្រងខ្លួនឯង និងរៀនធ្វើកិច្ចការងារផ្នែកបញ្ញាគ្រប់យ៉ាងបានដូចមនុស្ស ឬអស្ចារ្យជាងមនុស្ស ដែលបច្ចុប្បន្ននៅជាទ្រឹស្តីនៅឡើយ។ ដូចជាមនុស្សយន្តក្នុ​ងរឿងវិទ្យាសាស្ត្រប្រឌិត ដែលអាចគិត ដោះស្រាយបញ្ហា និងមានមនោសញ្ចេតនាដូចមនុស្សពិតៗ។
Algorithmic governance ការប្រើប្រាស់ក្បួនដោះស្រាយ (Algorithms) និងប្រព័ន្ធស្វ័យប្រវត្តិរបស់កុំព្យូទ័រ ដើម្បីធ្វើសេចក្តីសម្រេចចិត្ត គ្រប់គ្រង ត្រួតពិនិត្យ ឬដឹកនាំសកម្មភាពនៅក្នុងសង្គម ស្ថាប័ន ឬការគ្រប់គ្រងរដ្ឋ។ ដូចជាការឱ្យម៉ាស៊ីនគិតលេខ ឬប្រព័ន្ធកុំព្យូទ័រធ្វើជាចៅក្រម ឬអ្នកគ្រប់គ្រង ក្នុងការសម្រេចថាតើនរណាគួរទទួលបានប្រាក់កម្ចី ឬការងារ។
Panoptic surveillance ទម្រង់នៃការតាមដាន និងឃ្លាំមើលសង្គមយ៉ាងទូលំទូលាយ និងស៊ីជម្រៅ ដោយប្រើប្រាស់បច្ចេកវិទ្យា ដែលធ្វើឱ្យប្រជាពលរដ្ឋមានអារម្មណ៍ថាខ្លួនកំពុងត្រូវគេតាមដានគ្រប់សកម្មភាព និងគ្រប់ពេលវេលា។ ដូចជាការរស់នៅក្នុងបន្ទប់កញ្ចក់ ដែលអ្នកជិតខាង និងប៉ូលីសអាចមើលឃើញរាល់សកម្មភាពប្រចាំថ្ងៃរបស់អ្នកជានិច្ច។
Co-innovation ដំណើរការនៃការបង្កើតគំនិត ផលិតផល ឬដំណោះស្រាយថ្មីៗ ដោយមានការចូលរួមសហការគ្នាយ៉ាងជិតស្និទ្ធរវាងភាគីពាក់ព័ន្ធចម្រុះ ដូចជាអ្នកស្រាវជ្រាវ រដ្ឋាភិបាល ក្រុមហ៊ុនឯកជន និងប្រជាពលរដ្ឋ។ ដូចជាការរៀបចំពិធីជប់លៀងមួយ ដែលភ្ញៀវគ្រប់គ្នាចូលរួមចេញគំនិត និងធ្វើម្ហូបជាមួយគ្នា ដើម្បីឱ្យត្រូវមាត់មនុស្សគ្រប់គ្នា ជាជាងទុកឱ្យចុងភៅម្នាក់ធ្វើអ្នកឯង។
Soft and hard governance mechanisms យន្តការគ្រប់គ្រងដែលបែងចែកជាពីរ៖ "យន្តការទន់" (Soft) សំដៅលើគោលការណ៍ណែនាំ ក្រមសីលធម៌ ឬការស្ម័គ្រចិត្ត និង "យន្តការរឹង" (Hard) សំដៅលើច្បាប់ បទប្បញ្ញត្តិ និងការផាកពិន័យដែលមានកាតព្វកិច្ចផ្លូវច្បាប់។ "យន្តការទន់" គឺដូចជាការទូន្មានរបស់គ្រូឱ្យសិស្សខិតខំរៀន ចំណែក "យន្តការរឹង" គឺដូចជាច្បាប់វិន័យសាលាដែលបើល្មើសនឹងត្រូវពិន័យ ឬដេញចេញ។
Social biases ភាពលំអៀង ឬការរើសអើងដែលប្រព័ន្ធ AI រៀនសូត្រពីទិន្នន័យចាស់ៗ (ដែលមានបង្កប់ការរើសអើងដោយមនុស្ស) ដែលនាំឱ្យការសម្រេចចិត្តរបស់ម៉ាស៊ីនមានភាពអយុត្តិធម៌ចំពោះក្រុមជនជាតិ យេនឌ័រ ឬចំណាត់ថ្នាក់សង្គមណាមួយ។ ដូចជាក្មេងម្នាក់ដែលរៀនពាក្យអាក្រក់ៗ និងទម្លាប់រើសអើងពីមនុស្សចាស់នៅជុំវិញខ្លួន រួចយកទៅអនុវត្តបន្តដោយមិនដឹងខ្លួនថាវាខុស។
Foresight វិធីសាស្ត្រសិក្សា និងព្យាករណ៍ជាប្រព័ន្ធអំពីព្រឹត្តិការណ៍ និងការផ្លាស់ប្តូរដែលអាចកើតមានក្នុងអនាគត (ជាពិសេសផ្នែកបច្ចេកវិទ្យា និងសង្គម) ដើម្បីរៀបចំយុទ្ធសាស្ត្រ និងគោលនយោបាយត្រៀមខ្លួនទប់ទល់ទុកជាមុន។ ដូចជាការមើលការព្យាករណ៍អាកាសធាតុប្រចាំខែ ដើម្បីរៀបចំប្រព័ន្ធបង្ហូរទឹក ឬត្រៀមឆ័ត្រទុកជាមុន មុនពេលរដូវវស្សាមកដល់។

៦. ប្រធានបទពាក់ព័ន្ធ (Further Reading)

អត្ថបទដែលបានបោះពុម្ពនៅលើ KhmerResearch ដែលទាក់ទងនឹងប្រធានបទនេះ៖

ប្រធានបទ និងសំណួរស្រាវជ្រាវដែលទាក់ទងនឹងឯកសារនេះ ដែលអ្នកអាចស្វែងរកបន្ថែម៖