บริษัทโซเชียลมีเดียต้องการโปรโตคอลฉุกเฉินที่ดีกว่า

กรดกำมะถันออนไลน์ โดยเฉพาะอย่างยิ่งในมือของนักการเมืองและรัฐบาลที่มีคนติดตามอย่างกว้างขวาง ทรงอิทธิพล และมีทรัพยากรเพียงพอ อาจมีผลที่ร้ายแรงและถึงขั้นเสียชีวิตได้ เมื่อวันที่ 6 มกราคม 2020 ประธานาธิบดีทรัมป์ทวีตข้อความอ้างว่าเป็นการฉ้อโกงการเลือกตั้งและ ดูเหมือนเป็นเหตุให้สมควรแก่การใช้ความรุนแรง ขณะที่ผู้สนับสนุนของเขาบุกโจมตีศาลาว่าการสหรัฐฯ แม้ว่าการพูดต่อหน้า ดูเหมือนจะกระตุ้นโดยตรงมากที่สุด ความรุนแรงการปรากฏตัวของโซเชียลมีเดียของทรัมป์มีบทบาทสำคัญในการกระทำของกลุ่ม เป็นเวลาหลายสัปดาห์หลังจากแพ้การเลือกตั้งในปี 2020 ประธานาธิบดีทรัมป์ทวีตข้อความอ้างว่าเป็นการฉ้อโกงการเลือกตั้งและสนับสนุนให้ผู้สนับสนุน ลงมาที่กรุงวอชิงตัน ดี.ซี. ในวันที่ 6 มกราคม , ปฏิเสธที่จะ เอาอีกแล้ว และเข้มแข็ง ในวันเกิดเหตุ ทวิตข้อความว่า รองประธานาธิบดีไมค์ เพนซ์ ไม่กล้าทำในสิ่งที่ควรทำ ตามมาด้วย ข้อความจากผู้สนับสนุนทรัมป์ บนแพลตฟอร์มโซเชียลเน็ตเวิร์ก Gab เรียกร้องให้ผู้ที่อยู่ใน Capitol หารองประธาน รวมถึงการร้องเพลง Where is Pence? ก่อนและระหว่างการระบาดของความรุนแรง แพลตฟอร์มโซเชียลมีเดียต่างๆ ช่วยให้กลุ่มม็อบรวมตัวกันในสถานที่และเวลาที่เหมาะสม ประสานงานการกระทำ และรับคำแนะนำจากประธานาธิบดีและอีกฝ่ายหนึ่ง





ตามที่เราเถียง ในบทความล่าสุด สำหรับวารสาร Survival นั้น การใช้โซเชียลมีเดียในทางที่ผิดนั้นไม่ได้จำกัดอยู่แค่เฉพาะกลุ่มผู้ก่อการร้ายอย่างรัฐอิสลาม (ไอเอส) บริษัทโซเชียลมีเดียควรพัฒนาโปรโตคอลฉุกเฉินเพื่อตอบโต้การแสวงประโยชน์จากตัวแทนที่มุ่งร้ายและรัฐที่พยายามปลุกระดมความรุนแรง



ปัญหาโลกแตก

น่ากลัวพอๆ กับการจู่โจมใน Capitol การละเมิดสื่อสังคมออนไลน์ของ Trump ไม่ใช่เรื่องแปลก ในปี 2020 ท่ามกลางความตึงเครียดทางศาสนาที่มีอยู่และประวัติศาสตร์ความรุนแรงในชุมชน นักการเมืองของพรรคภารติยะชนตะของอินเดีย (BJP) ได้โพสต์เนื้อหาเกี่ยวกับชาวมุสลิม กระทั่งการข่มขู่ใช้ความรุนแรงของศาลเตี้ย . เจ้าหน้าที่อย่างน้อยสี่คนยังคงรักษาบัญชี Facebook ของตนไว้แม้ว่าจะมีการละเมิดกฎวาจาสร้างความเกลียดชังของแพลตฟอร์มก็ตาม โดยมีเพียงไม่กี่โพสต์ที่ถูกลบออกหลังจากที่ Wall Street Journal ได้สอบถามเกี่ยวกับพวกเขา ทีมควบคุมเนื้อหาของ Facebook ไม่ได้ดำเนินการใดๆ กับนักการเมืองที่อ้างว่าชาวมุสลิมจงใจแพร่ coronavirus และในขณะที่วิดีโอของ Kapil Mishra อดีตผู้บัญญัติกฎหมาย BJP ที่คุกคามความรุนแรงของศาลเตี้ยก็ถูกถอดออกในที่สุด การจลาจลและการสังหารที่ส่งผลกระทบต่อชาวมุสลิมอย่างไม่สมส่วนเกิดขึ้นไม่นานหลังจากที่อัปโหลด



ผู้ดำเนินการของรัฐที่มุ่งร้ายใช้เทคโนโลยีการสื่อสารมาเป็นเวลานานเพื่อให้บรรลุเป้าหมายที่มีความรุนแรงหรือแสดงความเกลียดชัง ตัวอย่างเช่น ระหว่างการฆ่าล้างเผ่าพันธุ์ในรวันดา กลุ่มหัวรุนแรงชาวฮูตูได้ติดอาวุธ Radio Télévision Libre des Mille Collines ออกอากาศเพื่อจุดไฟให้เกิดความเกลียดชังต่อชาวทุตซิสและชาวฮูตูระดับกลาง และเพื่อ ระบุชื่อ ที่อยู่ และแม้แต่เลขทะเบียนรถ ของพวกนั้นที่พวกเขาต้องการฆ่า ทุกวันนี้ ผู้นำของรัฐสามารถใช้แพลตฟอร์มโซเชียลมีเดียได้หลายวิธี ตั้งแต่การเรียกร้องให้ใช้ความรุนแรงอย่างโจ่งแจ้งไปจนถึงเนื้อหาที่ส่งเสริมความเกลียดชังอย่างร้ายกาจ ไปจนถึงทำให้ความตึงเครียดรุนแรงขึ้นและยุยงให้เกิดความรุนแรงในทำนองเดียวกัน



เมื่อไหร่จะได้เห็นดาวอังคาร

ความเสี่ยงและโอกาสใหม่สำหรับบริษัท

แม้ว่าการแสวงประโยชน์จากเทคโนโลยีการสื่อสารของรัฐไม่ใช่เรื่องใหม่ แต่โซเชียลมีเดียก็สร้างอันตรายและความเสี่ยงใหม่ๆ เมื่อพิจารณาจากการเข้าถึงของแพลตฟอร์มแล้ว รัฐสามารถส่งผลกระทบอย่างใหญ่หลวงต่อประชากรของพวกเขา หากพวกเขาครอบงำการเล่าเรื่องบนแพลตฟอร์มยอดนิยมอย่าง Facebook และ Twitter นอกจากนี้ โซเชียลมีเดียยังอำนวยความสะดวกในห้องเสียงสะท้อน โดยที่ฟีดจะได้รับการปรับแต่งตามข้อมูลผู้ใช้และมุมมองที่มีอยู่ก่อนของผู้ใช้จะได้รับการเสริม (อาจถึงขั้นกระตุ้นการดำเนินการ) มากกว่าที่จะท้าทาย สุดท้ายนี้ แพลตฟอร์มโซเชียลมีเดียส่วนใหญ่ไม่มีผู้เฝ้าประตูและขาดบทบาทด้านบรรณาธิการของหนังสือพิมพ์หรือการออกอากาศทางโทรทัศน์ แม้ว่าโดยปกติแล้วจะมีมาตรฐานชุมชนขั้นต่ำ โดยปกติแล้วจะมีความรับผิดชอบเพียงเล็กน้อย และบุคคลจำนวนไม่มากหรือฟาร์มโทรลล์ที่ได้รับการว่าจ้างจากรัฐสามารถขยายข้อความบางข้อความและทำให้ความคิดเห็นเล็กน้อยปรากฏเป็นกระแสหลักมากขึ้น นักการเมืองที่ติดตามอย่างกว้างขวางเช่นประธานาธิบดีทรัมป์สามารถสื่อสารโดยตรงกับกลุ่มประชากรจำนวนมาก ด้วยการเปิดเผยข่าวลือซ้ำแล้วซ้ำเล่าเสริมความน่าเชื่อถือและโอกาสในการถูกเรียกคืน ข่าวลือบนโซเชียลมีเดียจึงมีพลังมหาศาล



เฮนรี่ 8 ลูกชายเอ็ดเวิร์ด

ในขณะเดียวกัน การขาดผู้เฝ้าประตูและการครอบงำของสภาพแวดล้อมข้อมูลทำให้เกิดโอกาสใหม่ โซเชียลมีเดียสามารถให้ทางเลือกในการเล่าเรื่องที่รัฐบาลควบคุมโดยความเกลียดชังในสื่อแบบดั้งเดิม เชื่อมโยงชุมชนในภาวะวิกฤต และให้ข้อมูลสำหรับสมาชิกภาคประชาสังคม รัฐบาลต่างประเทศ และผู้ที่เกี่ยวข้องอื่นๆ ดังนั้น บริษัทโซเชียลมีเดียจึงต้องยอมรับพลังพิเศษของตนเมื่อพูดถึงรัฐและดำเนินการต่อต้านความรุนแรงที่อาจเกิดขึ้น



การร้อยเข็ม

แม้ว่าจะยังไม่สมบูรณ์แบบ แต่บริษัทโซเชียลมีเดียก็มีความก้าวหน้าในการจัดการกับกิจกรรมออนไลน์ที่ชั่วร้ายของพวกญิฮาดและกลุ่มรัฐย่อยอื่นๆ ที่มีความรุนแรง อย่างไรก็ตาม เมื่อพูดถึงการกลั่นกรองเนื้อหาของรัฐ บริษัทสื่อสังคมออนไลน์ต้องเผชิญกับคำถามที่ยุ่งยากมากขึ้นเกี่ยวกับวิธีการรักษาผลกำไร ใช้เครื่องมือทางเทคโนโลยีอย่างถูกต้อง และปฏิบัติตามอุดมคติในการพูดโดยเสรีซึ่งถูกกล่าวหาในขณะเดียวกันก็ข้ามนักแสดงที่มีอำนาจเหล่านี้ ในกรณีของทรัมป์และเจ้าหน้าที่ BJP พวกเขายังได้รับการเลือกตั้งตามระบอบประชาธิปไตย ทำให้พวกเขามีความชอบธรรมและตั้งคำถามว่ามาตรฐานของบริษัทโซเชียลมีเดียมีความสำคัญมากกว่าการเลือกตั้งในการพิจารณาว่าใครมีสิทธิ์เข้าถึงแพลตฟอร์มสำคัญเหล่านี้ที่มีสิทธิพิเศษ

กลุ่มสื่อสังคมออนไลน์ต่างๆ ได้สร้างแรงจูงใจและข้อกังวลต่างๆ เหล่านี้ให้สมดุลกันในรูปแบบต่างๆ เช่น Twitter และ Facebook ตอบสนองต่างกันไป การยุยงให้ทรัมป์ใช้ความรุนแรงในวันที่ 6 มกราคม เช่นกัน วาทศิลป์ต่อต้านมุสลิมของนักการเมือง BJP . นโยบายต่างๆ เหล่านี้ชี้ให้เห็นถึงความยากลำบากในการตอบคำถามที่แฝงอยู่: บริษัทโซเชียลมีเดียสามารถและควรปฏิบัติต่อนักการเมืองและรัฐบาลที่ปลุกระดมให้เกิดความเกลียดชังทางออนไลน์ได้อย่างไร



แม้ว่า Facebook และบริษัทอื่นๆ ได้ทุ่มเททรัพยากรจำนวนมากเพื่อแก้ไขปัญหาเนื้อหาที่ไม่ดี แต่เครื่องมือทางเทคนิคและผู้ดูแลที่เป็นมนุษย์ที่มีอยู่มักจะไม่สามารถแก้ปัญหาได้ มนุษย์มีความจำเป็นในการฝึกอบรมและปรับแต่งเครื่องมือทางเทคโนโลยี จัดการกับความน่าดึงดูดใจ และปฏิบัติต่อเนื้อหาที่เหมาะสมยิ่งยวดซึ่งต้องเข้าใจบริบททางสังคม วัฒนธรรม และการเมือง ตัวอย่างเช่น การเพิ่มขึ้นของการใช้การกลั่นกรองเนื้อหาอัตโนมัติในช่วงการระบาดใหญ่ของ COVID-19 ทำให้ข้อมูลที่จำเป็น เช่น โพสต์บน Facebook ของนักข่าวซีเรีย Mohammed Asakra ที่บันทึกความอยุติธรรมในประเทศและแบ่งปันสิ่งนี้กับนักเคลื่อนไหวคนอื่นๆ จะถูกลบออก แม้แต่ในเมียนมาร์ซึ่งเป็นศูนย์กลางหลังจากการสังหารหมู่ที่จัดโดยโซเชียลมีเดียในปี 2561 ผู้ควบคุมเนื้อหาของมนุษย์มักไม่สามารถอาศัยอยู่ในประเทศได้และต้องแบกรับภาระของหลายประเทศในโปรไฟล์



รอบดวงจันทร์ สิงหาคม 2019

นอกเหนือจากข้อจำกัดด้านทรัพยากรเหล่านี้ การฝ่าฝืนหรือดำเนินการกับรัฐบาลอาจเป็นอันตรายต่อผลประโยชน์ทางการค้าของบริษัทโซเชียลมีเดีย ในการเข้าถึงตลาดสำคัญๆ บริษัทโซเชียลมีเดียต้องอาศัยการอนุมัติจากรัฐบาล การออกใบอนุญาต และสภาพแวดล้อมด้านกฎระเบียบที่เอื้ออำนวย ดังนั้นบริษัทโซเชียลมีเดียจึงอาจเต็มใจที่จะก้มลงทำตามเจตจำนงของรัฐบาลและป้องกันฟันเฟือง

ในการเผชิญกับปัญหาเหล่านี้ วิธีแก้ปัญหาที่ง่ายกว่าวิธีหนึ่งอาจเป็นการใช้แนวทางที่ตรงไปตรงมาเพื่อกลั่นกรองเนื้อหา ทำให้เนื้อหาบางอย่างไม่สามารถเข้าถึงได้หรือจำกัดการเข้าถึงแพลตฟอร์มในวงกว้าง อย่างไรก็ตาม การจำกัดมากเกินไปอาจมีผลร้ายแรงพอๆ กัน ระบอบเผด็จการมักจะปิดอินเทอร์เน็ตในนามของความปลอดภัยในขณะที่ใช้ความเงียบเพื่อทำร้ายผู้ไม่เห็นด้วยหรือชุมชนชนกลุ่มน้อย นอกจากนี้ การจำกัดเนื้อหาใดๆ โดยเฉพาะอย่างยิ่งเนื้อหาของรัฐบาล อาจขัดแย้งกับหลักการของบริษัทเทคโนโลยีในสหรัฐฯ หลายบริษัทอ้างว่ามุ่งมั่นที่จะพูดอย่างอิสระสำหรับผู้ใช้ทั้งหมด และไม่เห็นว่าตนเองเป็นผู้ตัดสินเนื้อหาที่เหมาะสมหรือไม่เหมาะสม การตัดสินเหล่านี้ทำให้บริษัทโซเชียลมีเดียมีบทบาทที่พวกเขาไม่ควรหรือไม่ต้องการอยู่ด้วย แต่ด้วยพลังที่แพลตฟอร์มเหล่านี้ให้ผล บริษัทโซเชียลมีเดียจึงต้องหาวิธีในการเตรียมพร้อมสำหรับบทบาทนี้และป้องกันไม่ให้ความตึงเครียดในวิกฤตทวีความรุนแรงขึ้น



เพื่อสร้างสมดุลระหว่างความมุ่งมั่นที่แตกต่างกันและตอบสนองอย่างเหมาะสมต่อความเกลียดชังออนไลน์ที่ได้รับการสนับสนุนจากรัฐ บริษัทโซเชียลมีเดียจะต้องสามารถประเมินสถานการณ์ที่แตกต่างกันและใช้โปรโตคอลฉุกเฉินตามความจำเป็น เนื้อหาเกี่ยวกับวาทศิลป์แสดงความเกลียดชังและเส้นเขตแดนจะกลายเป็นสิ่งที่อันตรายที่สุดเมื่อความตึงเครียดในสังคมมีสูงอยู่แล้ว บริษัทต่างๆ สามารถใช้ตัวชี้วัดจากนักวิชาการและสถาบันต่างๆ เพื่อรับทราบว่าเหตุฉุกเฉินอาจปิดลง ภายใน การเพิ่มขึ้นของเนื้อหาที่เป็นอันตรายซึ่งรับรู้โดยระบบปัญญาประดิษฐ์หรือนักวิเคราะห์ที่เป็นมนุษย์อาจกระตุ้นให้มีการตรวจสอบอย่างละเอียดมากขึ้น นอกจากนี้ บริษัทต่างๆ จะต้องรับรู้เมื่อเหตุฉุกเฉินสิ้นสุดลงเพื่อให้แน่ใจว่าข้อจำกัดบนโซเชียลมีเดียจะไม่ก่อให้เกิดภาระเกินควร ชัยชนะชั่วคราว เช่น จำนวนวันที่ปราศจากความรุนแรง หรือการประกาศเหตุการณ์ที่ใหญ่กว่า เช่น การเจรจาสันติภาพ หรือการกลับมาของผู้ลี้ภัย อาจบ่งบอกถึงจุดจบของวิกฤต เมื่อกำหนดได้แล้ว บริษัทต่างๆ จะต้องตัดสินใจว่าจะดำเนินการอย่างไรในช่วงเวลาฉุกเฉินเหล่านี้



บริษัทต่างๆ มีเครื่องมือมากมายเหลือเฟือเพื่อจำกัดการแพร่กระจายของเนื้อหาอันตรายในช่วงวิกฤต แพลตฟอร์มสามารถใช้ป้ายเตือนในโพสต์ที่มีการโต้เถียงเพื่อนำผู้ใช้ให้ตั้งคำถามกับเนื้อหาในทันทีและขอข้อมูลเพิ่มเติม Twitter ใช้ป้ายกำกับดังกล่าวเกี่ยวกับทรัมป์เมื่อการปล้นเริ่มขึ้น การยิงเริ่มทวีตระหว่างการประท้วงเรื่อง Black Lives Matter ในปี 2020 บริษัทโซเชียลมีเดียยังสามารถเพิ่มความพยายามที่มีอยู่เพื่อจำกัดการมองเห็นเนื้อหาที่เป็นอันตรายในสถานการณ์วิกฤต แล้ว Facebook ลดอันดับโพสต์ที่ถูกระบุว่าเป็นเท็จ YouTube และ Facebook ใช้แนวทางที่เข้มงวดมากขึ้นในการตัดสินใจว่าจะแนะนำเนื้อหาหรือไม่ และ Twitter อ้างว่าจะลบหัวข้อที่กำลังเป็นที่นิยมหากเป็นเช่นนั้น ทำให้เข้าใจผิดหรือก่อกวนในการสนทนาสาธารณะ . บางครั้งโพสต์ที่น่าสงสัยจะถูกจำกัดสถานะด้วยการแสดงความคิดเห็น การชอบ การแชร์ การส่งต่อ และการสร้างรายได้ผ่านโฆษณาที่ถูกปิดหรือจำกัด ความพยายามเหล่านี้ควรเพิ่มขึ้นในช่วงวิกฤตและขยายเพื่อนำไปใช้ชั่วคราวกับเนื้อหาที่มีขอบเขตมากขึ้น ในช่วงวิกฤตสูงสุด บริษัทต่างๆ สามารถใช้กฎของรัฐที่จำกัดนี้กับโพสต์ที่มีคำหลักบางคำได้

นอกจากนี้ ควรใช้ทรัพยากรมากขึ้นในการลบเนื้อหาที่เกินขอบเขตออกจากแพลตฟอร์มและระงับบัญชีที่เป็นอันตรายในระหว่างสถานการณ์วิกฤต ทั้ง Twitter และ Facebook ซึ่งติดตามแนวคิดในการรักษาเนื้อหาของบุคคลสาธารณะมาอย่างยาวนาน เพื่อประโยชน์สาธารณะ ตระหนักถึงอันตรายของการรักษาเนื้อหานี้ไว้เนื่องจากการประท้วงในวันที่ 6 มกราคมในกรุงวอชิงตัน ดี.ซี. Twitter ติดป้ายกำกับทวีตก่อความไม่สงบของทรัมป์เป็นครั้งแรกพร้อมคำเตือน จากนั้นจึงล็อกประธานาธิบดีออกจากบัญชีของเขาชั่วคราวก่อนที่จะระงับถาวรในที่สุด เฟซบุ๊กระงับบัญชีทรัมป์ อย่างน้อยก็จนกว่าประธานาธิบดีที่ได้รับเลือก โจ ไบเดน พิธีเปิด . เห็นได้ชัดว่าตระหนักว่าการลบผู้กระทำความผิดที่แหล่งที่มาอาจปกป้องความปลอดภัยสาธารณะในท้ายที่สุด บริษัทสื่อสังคมออนไลน์ได้ลดข้อกำหนดก่อนหน้านี้สำหรับการระงับบัญชีและการลบโพสต์สำหรับบัญชีที่ได้รับสิทธิพิเศษ การลดเกณฑ์เหล่านี้สำหรับบัญชีปกติที่ส่งต่อข่าวลือในช่วงวิกฤตอาจทำให้สำนวนโวหารแพร่กระจายช้าลงในทำนองเดียวกัน



ในเวลาเดียวกัน โซเชียลมีเดียยังสามารถให้ข้อมูลที่จำเป็นจากด่านหน้าที่ไม่หวังดีของรัฐบาล ภาคประชาสังคม ผู้เผชิญเหตุคนแรก และคนที่คุณรัก เนื้อหาที่เป็นบวกจึงควรเน้น ด้วยความร่วมมือกับองค์กรภาคประชาสังคมในท้องถิ่นและองค์กรระหว่างประเทศที่มีชื่อเสียง แหล่งข้อมูลที่เชื่อถือได้ควรได้รับการระบุและยกระดับในฟีดข่าว บริษัทต่างๆ สามารถติดตามโมเดลของ YouTube ได้โดยการสร้างข่าวเด่นหรือแท็บข่าวด่วนที่ด้านบนของหน้าแรกที่ทำให้สามารถเข้าถึงคอลเลกชั่นของแหล่งข้อมูลเหล่านี้ได้อย่างง่ายดาย ในบางสถานการณ์ บริษัทอาจอนุญาตแหล่งที่มาบางแหล่งที่อนุญาตพิเศษและอนุญาตให้เข้าถึงแหล่งข้อมูลที่ได้รับการอนุมัติล่วงหน้าเหล่านี้ในขณะที่ป้องกันการเข้าถึงแหล่งอื่นๆ



การจำกัดเนื้อหาบนโซเชียลมีเดีย โดยเฉพาะอย่างยิ่งเนื้อหาของรัฐ มีความเสี่ยงต่อผู้ที่ตกเป็นเหยื่อของวิกฤตตลอดจนตัวบริษัทเอง ความแข็งแรงและระยะเวลาของขั้นตอนที่ดำเนินการต้องได้รับการประเมินอย่างรอบคอบเมื่อทำการเปลี่ยนแปลงประสิทธิภาพและวัตถุประสงค์ของแพลตฟอร์ม ถึงกระนั้น ความเสี่ยงของการไม่ลงมือทำก็มีมากขึ้น แม้ว่ามาตรการที่นำเสนอนี้จะไม่สามารถแก้ไขรอยแยกในสังคมได้ แต่ก็สามารถลดผลกระทบอันทรงพลังของการแสวงประโยชน์จากโซเชียลมีเดียเพื่อเผยแพร่ความเกลียดชังและความรุนแรงได้

ราชินีเอลิซาเบธฉันตายเมื่อไหร่