ຜົນການຄົ້ນຄວ້າຊີ້: LLM ລຸ້ນໃໝ່ມີຄວາມສ່ຽງສູງໃນການສ້າງໂຄ້ດທີ່ເປັນອັນຕະລາຍ

 

ທີມນັກຄົ້ນຄວ້າຈາກ ມະຫາວິທະຍາໄລ Stanford ໄດ້ຈັດພິມບົດລາຍງານທີ່ເປັນການເຕືອນໄພກ່ຽວກັບຄວາມສາມາດຂອງ Large Language Models (LLMs) ທີ່ໃຊ້ສຳລັບການຂຽນໂຄ້ດ. ການສຶກສາດັ່ງກ່າວພົບວ່າ, ເຖິງແມ່ນວ່າ LLMs ເຊັ່ນ GPT-4, Claude 3, ແລະ Gemini 1.5 Pro ຈະມີຄວາມສາມາດໃນການສ້າງໂຄ້ດທີ່ສະຫຼາດຂຶ້ນແລະເຮັດວຽກໄດ້ດີຂຶ້ນໃນຫຼາຍໆໜ້າວຽກ, ແຕ່ພວກມັນກໍສ້າງ ຂໍ້ຜິດພາດດ້ານຄວາມປອດໄພທີ່ຮ້າຍແຮງ ແລະ ກວດຈັບໄດ້ຍາກກວ່າ LLMs ລຸ້ນກ່ອນໆ.

ຂໍ້ຕົກລົງຫຼັກຂອງການຄົ້ນຄວ້າ

ໃນການສຶກສາ, ນັກຄົ້ນຄວ້າໄດ້ທົດສອບຄວາມສາມາດຂອງ LLMs ທີ່ແຕກຕ່າງກັນໃນການສ້າງໂຄ້ດຈາກຄຳສັ່ງທີ່ກຳນົດໄວ້. ຜົນໄດ້ຮັບຊີ້ໃຫ້ເຫັນວ່າ:

• ປະສິດທິພາບທີ່ສູງຂຶ້ນ: LLMs ລຸ້ນໃໝ່ສາມາດສ້າງໂຄ້ດທີ່ສັບຊ້ອນແລະມີປະສິດທິພາບສູງຂຶ້ນຢ່າງເຫັນໄດ້ຊັດ, ເຮັດໃຫ້ພວກມັນໄດ້ຄະແນນດີຂຶ້ນໃນການທົດສອບປະສິດທິພາບຕ່າງໆ.

• ຄວາມສ່ຽງທີ່ປ່ຽນແປງໄປ: ແຕ່ກົງກັນຂ້າມ, ພວກມັນກໍມີແນວໂນ້ມທີ່ຈະສ້າງ "ຂໍ້ຜິດພາດທີ່ຫຼອກລວງ" ທີ່ສາມາດນຳໄປສູ່ການໂຈມຕີທີ່ອັນຕະລາຍ. ຍົກຕົວຢ່າງ, ໂຄ້ດທີ່ສ້າງຂຶ້ນອາດຈະນຳໃຊ້ການທຳງານທີ່ຫຼອກລວງເພື່ອຂ້າມຜ່ານການກວດສອບຄວາມປອດໄພແບບທຳມະດາ.

ເປັນຫຍັງຄວາມສ່ຽງຈຶ່ງຮ້າຍແຮງກວ່າເກົ່າ?

ນັກຄົ້ນຄວ້າໄດ້ອະທິບາຍວ່າສາເຫດຫຼັກແມ່ນ LLMs ລຸ້ນໃໝ່ມີຄວາມເຂົ້າໃຈໃນໂຄງສ້າງລະຫັດທີ່ດີກວ່າ, ດັ່ງນັ້ນພວກມັນຈຶ່ງສາມາດສ້າງຂໍ້ຜິດພາດທີ່ມີລັກສະນະຄ້າຍຄືກັບ "ຄວາມຕັ້ງໃຈ" ຫຼາຍກວ່າຂໍ້ຜິດພາດແບບທຳມະດາທີ່ບໍ່ໄດ້ຕັ້ງໃຈ. ຕົວຢ່າງ, ພວກມັນອາດຈະ:

1. ເພີ່ມລະຫັດທີ່ເປັນອັນຕະລາຍເຂົ້າໄປຢ່າງລັບໆ: ພວກມັນອາດຈະເພີ່ມໂຄ້ດທີ່ເປັນອັນຕະລາຍ (ເຊັ່ນການເຊື່ອມຕໍ່ໄປຍັງເຊີບເວີທີ່ບໍ່ປອດໄພ) ເຂົ້າໄປໃນລະຫັດທີ່ເບິ່ງຄືປົກກະຕິ.
2. ສ້າງຊ່ອງໂຫວ່ແບບບໍ່ເຄີຍມີມາກ່ອນ: ບາງຄັ້ງ LLMs ກໍສ້າງຊ່ອງໂຫວ່ທີ່ບໍ່ເຄີຍມີໃນຊຸດຂໍ້ມູນການຝຶກອົບຮົມ, ເຮັດໃຫ້ເຄື່ອງມືກວດສອບຄວາມປອດໄພໃນປະຈຸບັນກວດພົບໄດ້ຍາກ.

ບົດສະຫຼຸບ ແລະ ຄຳແນະນຳ

ບົດລາຍງານສະຫຼຸບວ່າ, ເຖິງແມ່ນ LLMs ຈະເປັນເຄື່ອງມືທີ່ມີປະໂຫຍດຢ່າງຍິ່ງສຳລັບນັກພັດທະນາ, ແຕ່ກໍບໍ່ຄວນໄວ້ວາງໃຈໃນຄວາມສາມາດຂອງພວກມັນຢ່າງເຕັມທີ່ໃນເລື່ອງຄວາມປອດໄພ. ນັກພັດທະນາຄວນ:

• ທົບທວນໂຄ້ດທີ່ສ້າງຂຶ້ນຢ່າງລະອຽດ: ໂດຍສະເພາະໂຄ້ດທີ່ສ້າງໂດຍ AI ຄວນຜ່ານການກວດສອບດ້ວຍມືຢ່າງລະມັດລະວັງ.
• ນຳໃຊ້ເຄື່ອງມືກວດສອບຄວາມປອດໄພ: ຄວນນຳໃຊ້ເຄື່ອງມືກວດສອບຄວາມປອດໄພໂຄ້ດເພີ່ມເຕີມເພື່ອຊອກຫາຊ່ອງໂຫວ່.
• ແນະນຳຢ່າງຈະແຈ້ງ: ໃຫ້ຄຳແນະນຳແກ່ AI ໃຫ້ສ້າງໂຄ້ດທີ່ເນັ້ນໃສ່ຄວາມປອດໄພ.

 

ທີ່ມາ siliconangle.com