تكنولوجيا

الذكاء الاصطناعي يهدد امن المعلومات

يعتمد طيف واسع من الاشخاص في حصولهم على المعلومات على مواقع الانترنت و الشبكات اجتماعية .

لكن هل خطر في بالك ان هذه المعلومات قد تكون خاطئة! بالتاكيد يلعب الذكاء الاصطناعي دور كبير في ذلك.

كيف يعمل الذكاء الاصطناعي على تزييف المعلومات؟
كيف يعمل الذكاء الاصطناعي على تزييف المعلومات؟

كيف يعمل الذكاء الاصطناعي على تزييف المعلومات؟

تقوم شبكات اجتماعية عديدة مثل فيسبوك أو تويتر بعرض توضيح بجانب المنشور في حالة الشك في أنه مضلل…
لكن في بعض الحالات تكون المعلومات المضللة خطيرة جدا لتأثيرها في مجالات حساسة. مثل مجالات الأمن العام ،الأمن الرقمي ، الصحة.

في هذا الصدد كشفت بريانكا راناد أن الذكاء الاصطناعي قادر على تأليف معلومات خاطئة… ومضللة في مجالات حساسة مثل الطب، الدفاع، وغيرها.

كما أنه يفعل ذلك بشكل مقنع لدرجة أن بعض المتخصصين قد يصدقوه.

يمكن استخدام المعلومات المضللة بهدف تشويه شخصية عامة أو جهة ما.

او حتى تزييف معلومات عامة ما قد يكون له نتائج كارثية. على سبيل المثال تقديم نصيحة طبية خاطئة من طبيب لمريض .

التقنيات المستخدمة في التعرف على المعلومات المضللة وإدارتها معظمها تعتمد على قدرات الـAI… حيث أنه يسمح للمتخصصين التاكد من صحة عدد كبير من المعلومات في فترة قصيرة.

الغريب في الامر أن الذكاء الاصطناعي و بالرغم من انه ساعد الإنسان في التعرف على المعلومات المضللة بسرعة وكفاءة…. إلا أنه و بطريقة ما تم استخدامه في كتابة وإنتاج تلك المعلومات بأشكال المختلفة.هذا المحتوى المضلل كان له قدرة على اقناع الأطباء و الخبراء الأمنيين .

حيث تمكن أحد نماذج الذكاء الاصطناعي من كتابة تقارير حول جائحة فيروس كوفيد-19، وهو ما يمكن القيام به بالاعتماد على احدى النماذج الرئيسية للذكاء الاصطناعي… مثل: GPT من OpenAI أو BERT من جوجل ، وعندما تم قراءة هذا المحتوى من قبل مختصين قاموا بتصدقيه و عدم الاعتراض عليه.

عدد كبير من المستخدمين من الممكن انه تعرض لمعلومات مغلوطة وصدقها.

بالرغم من انها قد تكون مكتوبة من طرف نموذج AI. والذي لا يتطلب سوى تغذيته بكم كبير من المعلومات عن أي مجال ليكتب عنه كالمحترفين.

زر الذهاب إلى الأعلى