বিবিসি’র একটি অনুসন্ধানী প্রামাণ্যচিত্রে ১০ জনেরও বেশি হুইসেলব্লোয়ার ও অভ্যন্তরীণ সূত্র জানান, ব্যবহারকারীদের মনোযোগ ধরে রাখতে গিয়ে এসব প্ল্যাটফর্মে সহিংসতা, যৌন ব্ল্যাকমেইল, ঘৃণামূলক বক্তব্য ও সন্ত্রাসবাদ সম্পর্কিত ক্ষতিকর কনটেন্টের ঝুঁকি বাড়ানো হয়েছিল।

‘বর্ডারলাইন’ ক্ষতিকর কনটেন্ট বাড়ানোর নির্দেশ

মেটার এক প্রকৌশলী জানান, ব্যবহারকারীদের ফিডে আরও বেশি “বর্ডারলাইন” ক্ষতিকর কনটেন্ট দেখানোর নির্দেশ দেওয়া হয়েছিল। এই ধরনের কনটেন্টের মধ্যে নারীবিদ্বেষী বক্তব্য, ষড়যন্ত্র তত্ত্ব বা বিতর্কিত পোস্টও থাকতে পারে।

তার ভাষায়, “উচ্চপর্যায়ের কর্মকর্তারা বলেছিলেন, কোম্পানির শেয়ারদর কমে যাওয়ায় টিকটকের সঙ্গে প্রতিযোগিতায় টিকে থাকতে এমন সিদ্ধান্ত নেওয়া হয়েছে।”

মেটার মালিকানাধীন ফেসবুক ও ইনস্টাগ্রামে এই ধরনের কনটেন্টের উপস্থিতি বাড়তে পারে বলেও তারা সতর্ক করেছিলেন।

টিকটকের অভিযোগ ব্যবস্থার ভেতরের চিত্র

একজন টিকটক কর্মী বিবিসিকে কোম্পানির অভ্যন্তরীণ অভিযোগ ব্যবস্থার ড্যাশবোর্ড দেখান। সেখানে দেখা যায়, শিশুদের ক্ষতির অভিযোগের তুলনায় কিছু রাজনৈতিক ব্যক্তিকে নিয়ে পোস্টকে বেশি অগ্রাধিকার দেওয়া হয়েছে।

উদাহরণ হিসেবে দেখা যায়— একজন রাজনৈতিক ব্যক্তিকে মুরগির সঙ্গে তুলনা করে করা পোস্টের অভিযোগকে অগ্রাধিকার দেওয়া হলেও ফ্রান্সের এক ১৭ বছরের কিশোরীর সাইবার বুলিংয়ের অভিযোগ বা ইরাকের এক ১৬ বছরের কিশোরীর যৌন ব্ল্যাকমেইলের অভিযোগ তুলনামূলক কম গুরুত্ব পেয়েছে।

ওই কর্মীর মতে, রাজনীতিবিদদের সঙ্গে “ভালো সম্পর্ক বজায় রাখতে” এবং সম্ভাব্য নিষেধাজ্ঞা বা কঠোর নিয়ম এড়াতে এই অগ্রাধিকার দেওয়া হয়।

অ্যালগরিদমের ‘ব্ল্যাক বক্স’

টিকটকের সাবেক মেশিন লার্নিং প্রকৌশলী রুওফ্যান ডিং বলেন, অ্যালগরিদমের ভেতরের কাজকর্ম অনেকটাই “ব্ল্যাক বক্স” বা অস্বচ্ছ।

তার মতে, “ইঞ্জিনিয়ারদের কাছে কনটেন্ট আসলে শুধু একটি আইডি বা সংখ্যা। তারা ধরে নেন নিরাপত্তা দল ক্ষতিকর কনটেন্ট সরিয়ে ফেলবে।”

কিন্তু টিকটক যখন প্রায় প্রতি সপ্তাহেই অ্যালগরিদম উন্নত করতে থাকে, তখন ব্যবহারকারীরা দীর্ঘ সময় ভিডিও দেখার পর ধীরে ধীরে বেশি বিতর্কিত বা ক্ষতিকর কনটেন্ট দেখতে শুরু করেন বলে তিনি জানান।

কিশোরদের ‘অ্যালগরিদমিক উগ্রবাদ’

১৯ বছর বয়সী ক্যালাম নামের এক তরুণ জানান, ১৪ বছর বয়স থেকেই তিনি অ্যালগরিদমের মাধ্যমে ধীরে ধীরে বর্ণবাদী ও নারীবিদ্বেষী কনটেন্টে আকৃষ্ট হন।

তার ভাষায়, “ভিডিওগুলো আমাকে উত্তেজিত করত, কিন্তু ভালোভাবে নয়। এগুলো আমাকে আরও বেশি রাগী করে তুলেছিল।”

ইনস্টাগ্রাম রিলসেও নিরাপত্তা ঘাটতি

মেটার সাবেক গবেষক ম্যাট্ট মটাইল বলেন, ২০২০ সালে চালু হওয়া ইনস্টাগ্রাম রিলস যথেষ্ট নিরাপত্তা ব্যবস্থা ছাড়াই দ্রুত চালু করা হয়েছিল, যাতে টিকটকের জনপ্রিয়তার সঙ্গে পাল্লা দেওয়া যায়।

অভ্যন্তরীণ গবেষণায় দেখা যায়— রিলসের মন্তব্যে বুলিং ও হয়রানি ৭৫ শতাংশ বেশি, ঘৃণামূলক বক্তব্য ১৯ শতাংশ বেশি এবং সহিংসতা বা সহিংসতায় উসকানি ৭ শতাংশ বেশি।

অভ্যন্তরীণ গবেষণা অনুযায়ী, মানুষের নৈতিক বিশ্বাস বা আবেগকে আঘাত করে এমন কনটেন্টে বেশি প্রতিক্রিয়া হয়। ফলে অ্যালগরিদম ধরে নেয় ব্যবহারকারীরা এমন কনটেন্ট বেশি দেখতে চান এবং সেগুলো আরও বেশি দেখাতে থাকে।

কোম্পানিগুলোর প্রতিক্রিয়া

তবে অভিযোগ অস্বীকার করে মেটা জানিয়েছে, “আর্থিক লাভের জন্য ইচ্ছাকৃতভাবে ক্ষতিকর কনটেন্ট বাড়ানো হয়েছে, এমন দাবি ভুল।”

অন্যদিকে টিকটক বলেছে, অভিযোগগুলো “মনগড়া” এবং তারা ক্ষতিকর কনটেন্ট ঠেকাতে প্রযুক্তিতে বড় বিনিয়োগ করেছে।

সতর্কবার্তা

টিকটকের ট্রাস্ট অ্যান্ড সেফটি দলের এক কর্মী অভিভাবকদের উদ্দেশে সরাসরি পরামর্শ দিয়েছেন— “আপনার সন্তানেরা যদি টিকটক ব্যবহার করে, সম্ভব হলে অ্যাপটি মুছে দিন এবং যতদিন সম্ভব তাদের দূরে রাখুন।”

সূত্র: বিবিসি