ວີດີໂອປອມ ຫຼື Deepfake ນໍາໃຊ້ຜູ້ກໍ່ການຮ້າຍທີ່ເສຍ​ຊີວິດແລ້ວ ​ເພື່ອແຜ່ຂະຫຍາຍການໂຄສະນາຊວນເຊື່ອທີ່ຮຸນແຮງ

Your browser doesn’t support HTML5

ວີດີໂອ Deepfake ນໍາໃຊ້ຜູ້ກໍ່ການຮ້າຍທີ່ເສຍໍີວິດແລ້ວ ແຜ່ຂະຫຍາຍການໂຄສະນາຊວນເຊື່ອທີ່ຮຸນແຮງ.

ໃນປີທີ່ມີການເລືອກຕັ້ງແຫ່ງຊາດຫຼາຍກວ່າ 60 ຄັ້ງຢູ່ທົ່ວໂລກ, ຄວາມກັງວົນແມ່ນສູງທີ່ບຸກຄົນ ແລະຫນ່ວຍງານຕ່າງໆກໍາລັງໃຊ້ຮູບພາບ ຫຼື ການບັນທຶກ​ພ​າບ​ປອມ ເພື່ອປະ​ກອບເຂົ້າໃນການ​ບິດ​ເບືອນຂໍ້ມູນການເລືອກຕັ້ງ. ຈາກນະຄອນຫຼວງວໍຊິງຕັນ, ຣິໂອ ທູອາຊີກໍ (Rio Tuasikal) ນັກຂ່າວ VOA ມີລາຍງານກ່ຽວກັບ ວິດີໂອທີ່​ອາ​ດ​ເປັນອັນຕະລາຍຈໍານວນນຶ່ງ ທີ່ຖືກສ້າງຂຶ້ນ ໂດຍການນຳໃຊ້ປັນຍາປະດິດ, ເຊິ່ງພວກເຮົາມີລາຍລະອຽດມາສະເໜີທ່ານ ໃນອັນດັບຕໍ່ໄປ.

ສະມາຊິກກຸ່ມກໍ່ການຮ້າຍ ຈາມາ ອິສລາມີຢາ (Jemaah Islamiyah) ຂອງ ເຄືອຂ່າຍ ອາລ-ກາອິດະ (al-Qaida), ທີ່​ເສຍ​ຊີ​ວິດ​ໄປ​ແລ້ວໄດ້​ອອກ​ມາກ່າວ ຈາກຂຸມຝັງສົບ, ຍ້ອນ​ການ​ເຮັດ​ຂຶ້ນຂອງປັນຍາປະດິດ (AI).

ຜູ້ຊາຍຄົນນຶ່ງກ່າວເປັນພາສາອິນໂດເນເຊຍວ່າ:

“ມີຄົນເສຍຊີວິດຫຼາຍຮ້ອຍຄົນ ຍ້ອນລະເບີດທີ່ຂ້ອຍສ້າງຂຶ້ນ.”

ວິດີໂອອັນນຶ່ງທີ່ຖືກອັບໂຫຼດເຂົ້າໃນສື່ສັງຄົມ TikTok ສະແດງໃຫ້ເຫັນ ທ້າວ ອາຊາຮາຣີ ຮູຊິນ (Azahari Husin), ຜູ້ສ້າງລະເບີດຄົນມາເລເຊຍ ທີ່ເປັນ ຜູ້ບັນຊາການການບຸກໂຈມຕີໃສ່ ອິນໂດເນເຊຍ ຫຼາຍຄັ້ງ, ລວມທັງການວາງ ລະເບີດທີ່ເກາະຣີສອດ ບາຫຼີ ເມື່ອປີ 2002, ສົ່ງຜົນເຮັດໃຫ້ມີຜູ້ເສຍຊີວິດ ຫຼາຍກວ່າ 200 ຄົນ.

ນັບຕັ້ງແຕ່ການປະກາດຂອງພວກເຂົາໃນປີ 2023, ເຊິ່ງເປັນວິດີໂອ deepfake ຫຼື ວິ​ດີ​ໂອ​ປອມ ທີ່ສະແດງໃຫ້ເຫັນ ທ້າວ ອາຊາຮາຣີ ໂອ້ອວດ ກ່ຽວກັບການກະທໍາຂອງລາວ, ມັນໄດ້ເຮັດໃຫ້ມີຜູ້ເຂົ້າມາກົດມັກຮອດ 120.000 ຄັ້ງ.

ວິ​ດີ​ໂອ​ປອມອີກອັນນຶ່ງ ໄດ້ສະແດງໃຫ້ເຫັນບຸກຄົນທີ່ມີອໍານາດສູງສຸດ ທ້າວ ນໍຣ໌ດີນ ໂມຮໍາມັດ (Noordin Mohammad), ຜູ້ຢູ່ເບື້ອງຫຼັງການວາງລະເບີດ ສະລະຊີບທີ່ຮ້າຍແຮງຢູ່ທີ່ໂຮງແຮມສອງແຫ່ງໃນນະຄອນຫຼວງຈາກາຕ້າ ເມື່ອປີ 2009. ວີດີໂອດັ່ງກ່າວນີ້ ມີຜູ້ເຂົ້າໄປກົດມັກຮອດ 90.000 ຄັ້ງ.

ບັນດາຜູ້ຊ່ຽວຊານກ່າວວ່າ ວິດີໂອເຫຼົ່ານີ້ ຖືກນໍາໃຊ້ເປັນເຄື່ອງມືໃນການດຶງດູດ ເອົາຜູ້ຄົນ.

ທ່ານນາງ ນູຣຽນທິ ຈາລລີ (Nuurrianti Jalli), ຈາກມະຫາວິທະຍາໄລລັດ ໂອກລາໂຮມາ ກ່າວຜ່ານ Zoom ວ່າ:

“ສະ​ນັ້ນ, ເຈົ້າ​ໃຊ້​ພວກ​ຫົວ​ຮຸນ​ແຮງ​ທີ່​ພວກ​ເຮົາ​ຫຼາຍ​ຄົນ​ຮູ້​ວ່າ​ເສຍຊີວິດ​ໄປ​ແລ້ວ, ແຕ່​ຫຼາຍ​ຄົນ​ອາດບໍ່​ຮູ້​ຈັກ, ເຈົ້າ​ຮູ້ບໍ່. ຂ້ອຍຄາດເດົາໄດ້ວ່າ ມັນສາມາດສ້າງຜົນ ກະທົບທາງຈິດຕະວິທະຍາບາງຢ່າງຕໍ່ຜູ້ຊົມ, ເຊິ່ງພວກເຂົາຕ້ອງການຮູ້ເພີ້ມເຕີມ ກ່ຽວກັບເຫດການດັ່ງກ່າວນັ້ນ ແລະເຂົ້າໄປຄົ້ນຫາ ແມ່ນຫຍັງທີ່ເກີດຂຶ້ນແທ້ ຫຼື ພວກເຂົາຕ້ອງການໃຫ້ຜູ້ຄົນທີ່ເຂົ້າມາເບິ່ງຮູ້ສຶກເຫັນອົກເຫັນໃຈກັບພວກຫົວຮຸນ ແຮງເຫຼົ່ານັ້ນ.”

ການນໍາໃຊ້ສື່ສັງຄົມເພື່ອເຜີຍແຜ່ການໂຄສະນາຂອງພວກຫົວຮຸນແຮງ ບໍ່ແມ່ນ ເລື້ອງໃໝ່. ໃນ​ລະ​ຫວ່າງ​ການ​ຂະ​ຫຍາຍໂ​ຕ​ເຂົ້າ​ໄປ​ໃນ​ປະ​ເທດ​ ອີ​ຣັກ ​ແລະ ​ຊີ​ເຣຍ​, ກຸ່ມ​ລັດ​ອິ​ສ​ລາມ​ ໄດ້​ນໍາ​ໃຊ້ YouTube ແລະ​ຂໍ້​ຄວາມ​ແບບໂຕ້ຕອບ ໃນທັນ​ທີ ​ເພື່ອ​ຮັບເອົາ ​ແລະ​ເຜີຍ​ແຜ່​ຂໍ້​ຄວາມ​ຂອງ​ຕົນ​.

ເພື່ອ​ຕ້ານ​ຕໍ່ການ​ແຜ່​ລະບາດ​ຂອງ​ຂ່າວສານ​ທີ່​ບິດເບືອນ ​ແລະ ການ​ໂຄສະນາ​ຊວນເຊຶ່ອທີ່ກໍ່ໃຫ້ເກີດຄວາມ​ຮຸນ​ແຮງ, ກະຊວງ​ຖະ​ແຫຼ​ງຂ່າວ​ຂອງ ​ອິນ​ໂດ​ເນ​ເຊຍ ​ໄດ້​ຮັບຜ່ານ​ກົດໝາຍ​ວ່າ​ດ້ວຍ​ທຸລະ​ກຳ​ທາງ​ອີ​ເລັກ​ໂທຣນິກ​ໃນ​ປີ 2008, ເຮັດໃຫ້ ຂໍ້ມູນທີ່ຖືກບິດເບືອນນັ້ນ ເປັນຄວາມຜິດທາງອາຍາ.

ລັດຖະບານ ​ອິນ​ໂດ​ເນ​ເຊຍ ​ກ່າວ​ວ່າ ​ຕົນ​ໄດ້​ລຶບ​ລ້າງ​ຫຼາຍ​ກວ່າ 5,731 ຂໍ້ມູນ ທີ່ຕົນ​ຄິດ​ວ່າ ​ມີ​ສ່ວນປະກອບ​ຂອງ “ລັດທິ​ກໍ່​ການ​ຮ້າຍ​ ແລະ​ລັດທິ​ຫົວ​ຮຸນ​ແຮງ” ລະຫວ່າງຊ່ວງ​ເດືອນ​ມິ ຖຸນາ​ ປີ 2023 ຫາ​ເດືອນ ​ມີນາ ປີ 2024.

ແຕ່​ກົດໝາຍ​ຕ່າງໆ​ຂອງ ​ອິນ​ໂດ​ເນ​ເຊຍ ​ສາມາດ​ມີ​ຜົນ​ກະທົບ​ຕໍ່​ການ​ປາກ​ເວົ້າ​ຢ່າງ​ເສລີໄດ້, ທ່ານ ແຊກເກີຣີ ແລມໂປລ (Zachery Lampell), ທີ່​ປຶກສາ​ດ້ານ​ກົດໝາຍ​ອາວຸ​ໂສ​ຂອງ​ສູນ​ກາງ​ກົດໝາຍສາກົນ​ທີ່​ບໍ່​ຫວັງ​ຜົນ​ກຳ​ໄລ ກ່າວ.

ທ່ານ ແຊກເກີຣີ ແລມໂປລ ກ່າວຜ່ານ Zoom ວ່າ:

“ຜູ້​ລາຍ​ງານ​ພິ​ເສດ​ຂອງ​ສະຫະ​ປະຊາ​ຊາດ ແລະ​ບັນດາ​ອົງການ​ໃນ​ພາກ​ພື້ນ​ອື່ນໆ ໄດ້​ກ່າວ​ຢ່າງ​ຈະ​ແຈ້ງ ແລະ ແຈ້ງ​ຂາວ​ວ່າ ກົດໝາຍ​ຕ້ານ​ຂ່າວ​ປອມ ທີ່​ຫ້າມ​ການ​ເຜີຍ​ແຜ່​ຂໍ້​ມູນ​ຂ່າວ​ປອມ ບໍ່​ໄດ້​ປະຕິບັດ​ຕາມ​ພັນທະ​ສິດທິ​ມະນຸດ​ສາກົນ. ມັນເປັນ ການລະເມີດສິດເສລີພາບໃນການສະແດງອອກ.”

ທ່ານ ແລມໂປລ ກ່າວອີກ​ວ່າ ບັນດາເຈົ້າ​ໜ້າ​ທີ່ ​ຄວນ​ຈຳ​ກັດ​ເທັກ​ໂນ​ໂລ​ຈີ, ບໍ່​ແມ່ນ​ການ​ປາກ​ເວົ້າ. ທ່ານເວົ້າວ່າ ກົດໝາຍຂອງລັດຄາລິຟໍເນຍ ກ່ຽວກັບ ການນຳໃຊ້ ແອັບພຣິເຄຊັ່ນຊອບແວຫຸ້ນ​ຍົນ ທີ່ສາມາດສະແດງທ່າທີເປັນມະ ນຸດໄດ້ ແມ່ນໂຕແບບທີ່ດີ.

ທ່ານ ແຊກເກີຣີ ແລມໂປລ ກ່າວຜ່ານ Zoom ວ່າ:

“ນັ້ນ ເປັນການຫ້າມປະຊາຊົນ ແລະອົງການຈັດຕັ້ງ ຈາກການນໍາໃຊ້ ຫຸ້ນ​ຍົນ ສໍາລັບຈຸດປະສົງທີ່ເປັນອັນຕະລາຍ. ດັ່ງນັ້ນ, ຖ້າທ່ານພະຍາຍາມສະກັດກັ້ນ ການເຜີຍແຜ່ຂໍ້ມູນທີ່ບິດເບືອນ, ທ່ານບໍ່ຕ້ອງການຫຸ້​ນ​ຍົນ ເພື່ອເຜີຍແຜ່ຂໍ້ຄວາມ ດັ່ງກ່າວນັ້ນຢ່າງກວ້າງຂວາງ.”

ແຕ່, ເຖິງແມ່ນຈະມີກົດໝາຍໃຫມ່ທີ່ເຂັ້ມງວດຫຼາຍຂຶ້ນ, ຜູ້ຊ່ຽວຊານດັ່ງ ທ່ານ ແລມໂປລ ກ່າວວ່າ ມັນຈະສ້າງຄວາມຫຍຸ້ງຍາກຫຼາຍຂຶ້ນທີ່ຈະຢຸດເຊົາການ ຫຼັ່ງໄຫຼຂອງຂໍ້ມູນທີ່ບໍ່ດີ ທີ່ມາຈາກພວກຄົນບໍ່ດີ.

ທ່ານ ແຊກເກີຣີ ແລມໂປລ ກ່າວວ່າ:

“ພວກເຮົາຈະຍັງຄົງສືບຕໍ່ພົບກັບຂໍ້ມູນທີ່ບໍ່ຖືກຕ້ອງ, ທີ່ບິດເບືອນຄວາມ​ຈິງ ແລະ ຂໍ້ມູນທີ່ບໍ່ດີແບບບໍ່ມີມື້ສິ້ນສຸດຫຼາຍຂຶ້ນເລື້ອຍໆ.”

ແລະລັດຖະບານ ຈະຕ້ອງຊອກຫານະວັດຕະກໍາໃໝ່ໆ ເພື່ອຕອບ​ໂຕ້ມັນ.

ອ່ານບົດລາຍງານດ້ານລຸ່ມນີ້ເປັນພາສາອັງກິດ

In a year with over 60 national elections worldwide, concerns are high that individuals and entities are using deepfake images and recordings to contribute to the flood of election misinformation. From Washington, VOA’s Rio Tuasikal reports on some potentially dangerous videos made using generative artificial intelligence.

Deceased members of the al-Qaida-affiliated Jemaah Islamiyah terror network (2) speak from beyond the grave, thanks to generative artificial intelligence, or AI.

UPSOUND, male, in Indonesian.

“Hundreds died due to bombs I made”

One video uploaded to TikTok shows Azahari Husin, a Malaysian bomb maker who masterminded (End Courtesy) a series of attacks in Indonesia, including the 2002 bombings on the resort island of Bali that killed over 200 people.

Since its posting in 2023, the video, in which a deepfake Azahari boasts about his deeds, has garnered 120 thousand likes.

Another deepfake shows Noordin Mohammad Top, who was behind deadly suicide bombings at two Jakarta hotels in 2009. This one has gained 90 thousand likes.

Experts say these videos are used as recruiting tools.

Nuurrianti Jalli, Oklahoma State University, Zoom.

“So, you use extremists that many of us know already passed away, but many perhaps don't, you know. That can create some sort of a psychological impact I guess towards the audience. Either they want to know more about the event and explore what exactly had happened or they want they feel like sympathy to the extremists”

Using social media to spread extremist propaganda is nothing new. During its expansion into Iraq and Syria, the Islamic State group used YouTube and instant messaging to recruit and spread its message.

To fight the spread of disinformation and radicalizing propaganda, Indonesia’s Information Ministry passed the Electronic Transaction Law in 2008 that criminalized misinformation.

The Indonesian government says it took down more than 5,731 posts it said contained elements of "terrorism and radicalism" between June 2023 and March 2024.

But laws like Indonesia's can have free speech implications, says Zachery Lampell, a senior legal adviser at the International Center for Not-for-Profit Law.

Zachery Lampell, International Center for Not-for-Profit Law, Zoom.

“Several special rapporteurs from the UN and other regional bodies have very clearly and explicitly stated that an anti fake news law prohibiting the spread of false information does not comply with international human rights obligations. It violates freedom of expression.”

Lampell says authorities should restrict technology, not speech. He says a California law about the use of bots — software applications that can act human — is a good model.

Zachery Lampell, International Center for Not-for-Profit Law, Zoom.

“That prohibits people and organizations from using bots for malicious purposes. So, if you're trying to curb the spread of disinformation, you don't want bots to be able to spread that message widely.”

But even with new and restrictive laws, experts like Lampell say, it will be increasingly difficult to stop the flow of bad information coming from bad actors.

Zachery Lampell, International Center for Not-for-Profit Law.

"We are going to be constantly inundated with more and more pieces of disinformation, misinformation and mal information."

And governments will have find innovative ways to counter it.