ก้าวกระโดดของ Generative AI กับความท้าทายที่องค์กรต้องเผชิญ

การเกิดขึ้นมาของ Generative AI (Gen-AI) ช่วยจุดประกายนวัตกรรมให้กับธุรกิจได้อย่างไร้ขีดจำกัด  แต่ก็อาจแฝงไปด้วยความท้าทายที่คาดไม่ถึงเช่นกัน ไม่ว่าจะเป็นปัญหา Deepfakes, Bias Amplification, หรือ Hallucination บทความนี้จึงขอชวนทุกท่านมาสำรวจตัวอย่างการใช้งานและความเสี่ยงที่องค์กรต้องเผชิญ รวมถึงทำความรู้จักเบื้องต้นกับมาตรการที่สามารถนำไปปรับใช้ เพื่อเป็นจุดตั้งต้นในการบริหารจัดการให้ประสบความสำเร็จได้ตามเป้าหมายที่ตั้งไว้



 

บทนำ

จากการเติบโตอย่างรวดเร็วของวงการ AI ในช่วง 2 ปีที่ผ่านมานี้ ด้วยการเกิดขึ้นของ Gen-AI ที่ทรงพลัง ซึ่งสามารถสร้างสรรค์ผลลัพธ์ใหม่ๆ ตั้งแต่การสร้างภาพและวิดีโอที่สมจริง ไปจนถึงทำ Coding และร่างบทความที่สร้างสรรค์ได้ในระยะเวลาอันรวดเร็ว แม้ว่าเทคโนโลยีนี้จะมีประโยชน์อย่างมาก แต่องค์กรต่างๆ ก็ยังจำเป็นต้องตระหนักถึงความเสี่ยงที่อาจเกิดขึ้นเช่นกัน
ยุคแห่ง Generative AI: นวัตกรรมที่เข้าถึงได้
ลองมาดูกันว่า ณ. วันนี้ องค์กรต่างๆ เริ่มนำ Gen-AI มาใช้งานกันอย่างแพร่หลายอย่างไรบ้าง ดังตัวอย่างต่อไปนี้
•    พัฒนาผลิตภัณฑ์ (Product Development): Gen-AI สามารถช่วยเร่งกระบวนการ Product Design ทั้งใช้สร้าง Prototype หรือช่วยนำเสนอไอเดียในการพัฒนาผลิตภัณฑ์ต่างๆ ได้
•    งานด้าน Marketing และ Content: ใช้สำหรับสร้างสรรค์สื่อการตลาดที่น่าสนใจ ทำ Personalized Content หรือกระทั่งจำลอง Product ให้มีความสมจริงได้ในระยะเวลาอันสั้น
•    การวิจัยและพัฒนาต่างๆ: สามารถช่วยสร้างสมมติฐานใหม่ๆ หรือสำรวจชุดข้อมูลขนาดใหญ่เพื่อค้นหารูปแบบที่ซ่อนอยู่ ซึ่งเป็นประโยชน์กับการวิจัยทางวิทยาศาสตร์ต่างๆ ได้

ดาบสองคม: ความเสี่ยงที่มาพร้อมกับ Generative AI

แม้ว่า Gen-AI จะมีศักยภาพสูง แต่ก็มาพร้อมกับความเสี่ยงที่องค์กรต้องพิจารณาอย่างระมัดระวัง เช่น

Deepfakes and Misinformation: ด้วยหลักการทำงานของ Gen-AI model ที่ต้องอาศัยข้อมูลที่ถูก Feed เข้าไป จึงทำให้มีโอกาสที่จะ Generate ผลลัพธ์ที่เป็นเท็จและไม่เหมาะสมขึ้นมา ซึ่งอาจส่งผลเสียต่อแบรนด์และความน่าเชื่อถือขององค์กรอย่างมีนัยสำคัญ

Bias Amplification: การถูกเทรนด้วยข้อมูลที่เป็น Bias ระบบอาจถ่ายทอดความเป็น Bias เหล่านั้นออกเป็นผลลัพธ์ที่มีอคติออกมาด้วย ซึ่งนำไปสู่การเลือกปฏิบัติผ่านกระบวนการต่างๆ ขององค์กร เช่น กระบวนการสรรหาบุคลากร หรือกระบวนการอนุมัติสินเชื่อ

Hallucination: เกิดจาก AI Model ที่พยายามสร้างคำตอบหรือผลลัพธ์ที่ไม่ได้มาจากความเป็นจริง แต่ดูมีความเป็นเหตุผลและสมจริง จนอาจทำให้กลุ่มลูกค้าหรือ User เข้าใจผิดและนำผลลัพธ์ไปใช้งานอย่างไม่เหมาะสมได้

Loss of Control and Explainability: เนื่องด้วยความซับซ้อนของการทำงานของ Gen-AI ซึ่งยากที่จะเข้าใจได้ว่าผลลัพธ์ต่างๆ ถูกสร้างขึ้นมาได้อย่างไร ส่งผลต่อความน่าเชื่อ จนอาจทำให้เกิดความกังวลว่าองค์กรจะสามารถควบคุมและรับผิดชอบกับผลลัพธ์ที่ไม่สามารถอธิบายนี้ได้อย่างไร

Security Vulnerabilities: ด้วยความเป็นระบบ IT เช่นเดียวกับระบบ AI อื่น Gen-AI อาจมีจุดอ่อนที่สามารถถูกเจาะผ่านช่องโหว่ได้ จนเกิดการรั่วไหลของข้อมูลหรืออาจถูกปรับแต่งเพื่อนำไปใช้ในทางที่ผิดได้

ฝ่าฟันความท้าทาย: กลยุทธ์สู่ความสำเร็จขององค์กร

การที่องค์กรต่างๆ จะใช้ประโยชน์จาก Gen-AI ได้อย่างเต็มที่ ควรมีการจัดการความเสี่ยงต่างๆ อย่างเหมาะสม ให้ไม่เกิดการสะดุดหรือได้รับผลกระทบจากการพัฒนาและใช้งาน โดยใช้มาตรการดังต่อไปนี้:

จัดทำ Data Governance: สร้างระบบการกำกับและบริหารจัดการข้อมูลที่มีความเข้มแข็งและรัดกุม  เพื่อให้ได้ข้อมูลที่มีคุณภาพ มีความมั่นคงปลอดภัย และลดจำนวน Bias data ให้น้อยที่สุด ก่อนที่จะนำไป Train ผ่านระบบ Gen-AI 

กำกับดูแลโดยคน (Human Oversight): ในกระบวนการพัฒนาและใช้งานปัญญาประดิษฐ์ จำเป็นต้องมีการติดตามและดูแลโดยผู้เชี่ยวชาญ เพื่อช่วยตัดสินใจในเรื่องสำคัญ  และพิจารณาประเด็นทางจริยธรรมอย่างเหมาะสม

ความโปร่งใสและอธิบายได้ (Transparency and Explain ability): การทำให้เกิดความโปร่งใสว่า Gen-AI ทำงานอย่างไร และสามารถอธิบายถึงที่มาที่ไปของผลลัพธ์เท่าที่จะทำได้ จะช่วยให้เกิดความน่าเชื่อถือมากยิ่งขึ้น

กรอบบริหารจัดการความเสี่ยง (Risk Management Framework): การจัดทำกรอบการจัดการความเสี่ยง  เพื่อระบุ ประเมิน  และจัดการกับความเสี่ยงที่อาจเกิดขึ้นจากการนำ Gen-AI มาใช้ มีความจำเป็นอย่างยิ่ง โดยปัจจุบันมีทั้งค่าย NIST และ ISO (ISO/IEC 23894:2023) ที่จัดทำ AI Risk Management framework ขึ้นมาให้องค์กรต่างๆ สามารถนำไปปรับใช้กันได้แล้ว

การพัฒนาทางจริยธรรม (Ethical Development): การปลูกฝังและผสานแนวคิดด้านจริยธรรมเข้ากับกลยุทธ์ขององค์กร ตามหลักการ Responsible AI เพื่อส่งเสริมให้เกิดสำนึกความรับผิดชอบจากการพัฒนาและใช้งาน Gen-AI ให้ดีขึ้นอย่างต่อเนื่องในอนาคต 

การบริหารจัดการ Cybersecurity: ตั้งแต่การป้องกัน ตรวจจับ และตอบสนองต่อการโจมตีทางไซเบอร์ มีความสำคัญต่อการพัฒนาและใช้งาน Gen-AI ตลอดทั้งกระบวนการเป็นอย่างมาก เนื่องด้วยความเสี่ยงจากทั้งภายในและภายนอกที่อาจเกิดขึ้นได้ตลอดเวลา

ทั้งนี้ การบริหารจัดการที่กล่าวมาข้างต้น ถือเป็นส่วนหนึ่งของหลักการกำกับดูแลที่เรียกว่า “AI Governance” ซึ่งจะถูกขยายความเพิ่มเติมในบทความถัดไป

บทสรุป
แม้ว่า Gen-AI จะเป็นนวัตกรรมที่ช่วยพาองค์กรไปสู่โอกาสแห่งอนาคตอันน่าตื่นเต้น แต่สิ่งสำคัญคือ การเข้าใจและยอมรับกับความท้าทายที่ AI ประเภทนี้มีอยู่ด้วย โดยเริ่มจากการบริหารจัดการความเสี่ยงอย่างครอบคลุมและเพียงพอ และให้ความสำคัญกับหลักการทางจริยธรรม  จะทำให้องค์กรต่างๆ สามารถฝ่าฟันความท้าทายเหล่านี้ และปลดล็อคศักยภาพที่แท้จริงของ Gen-AI ได้อย่างเต็มที่ ซึ่งจะช่วยผลักดันให้เกิดนวัตกรรม และสร้างความได้เปรียบในการแข่งขันให้กับองค์กรในยุคแห่งการเปลี่ยนแปลงที่รวดเร็วนี้ได้

บทความโดย


อาจารย์ กฤษดาลักษณ์ จันทร์ปรียากุล
IRCA: ISMS Provisional Auditor   ISO/IEC 27001
IRCA: BCMS Provisional Auditor  ISO/IEC 22301
IRCA: IT-SMS Provisional Auditor ISO/IEC 20000
Certify Information System Auditor (CISA)
Control Objectives for Information and Related Technology  (COBIT5)