أفادت دراسة جديدة نشرتها المجلة الطبية الشهرية JAMA Oncology أن خطط روبوت الدردشة ChatGPT لعلاج السرطان تعاني من مشكلة مألوفة.
ووجد الباحثون في مستشفى بريجهام والنساء، وهو مستشفى تعليمي تابع لكلية الطب بجامعة هارفارد في بوسطن، أن خطط ChatGPT لعلاج السرطان مليئة بالأخطاء، واختلطت توصيات العلاج غير المناسبة مع التوصيات الصحيحة، مما يجعل من الصعب التمييز بينها بشكل خاص.
وأشارت الدراسة أيضًا إلى أن روبوت الدردشة لديه ميل إلى مزج المعلومات الصحيحة وغير الصحيحة معًا، بطريقة تجعل من الصعب تحديد ما هو دقيق.
وقالت دانييل بيترمان، عالمة الأورام والمؤلفة المشاركة في الدراسة: “يتحدث ChatGPT في كثير من الأحيان بطريقة مؤكدة جدًا تبدو منطقية، وطريقة خلطه للمعلومات غير الصحيحة والصحيحة خطيرة، ومن الصعب حتى على الخبير تحديد التوصية غير الصحيحة”.
ومن بين إجمالي 104 استفسارات، تضمنت نحو 98 بالمئة من ردود ChatGPT توصية علاجية واحدة على الأقل تتوافق مع إرشادات الشبكة الوطنية الشاملة للسرطان، ولكن وجد الباحثون أن نحو ثلثها يحتوي أيضًا على اقتراحات غير صحيحة.
وأشار الباحثون إلى أن نحو 12 بالمئة من الإجابات تعاني من الهلوسة، وتضمنت توصيات لم ترد في إرشادات الشبكة الوطنية الشاملة للسرطان.
وفي حين أنه من الصعب الاعتماد على أدوات الذكاء الاصطناعي التوليدي في خطط علاج السرطان، إلا أن النقاشات الواسعة النطاق تدور حول قدرتها على المساعدة في اكتشاف السرطان مبكرًا، عندما يكون من المرجح علاجه بنجاح.
ويأمل الأطباء في أن يساعد الذكاء الاصطناعي في تخفيف الأعباء الإدارية، ولكن المخاوف بشأن الدقة والخصوصية تعني أن نماذج اللغة الكبيرة، مثل ChatGPT، لا تزال بعيدة عن اعتمادها على نطاق واسع في مكاتب الأطباء والمستشفيات.
وقالت بيترمان: “قدم روبوت الدردشة في جميع الحالات تقريبًا توصيات متضمنة إرشادات الشبكة الوطنية الشاملة للسرطان . بالنظر إلى تمتعه بقاعدة معرفية واسعة، يبدو كما لو أن ChatGPT ذهب إلى كلية الطب، ولكنه لم يحضر التدريب السريري المتقدم الذي يحصل عليه الأطباء بعد التخرج”.
وأثار تطبيق ChatGPT ضجة كبيرة عند إطلاقه في شهر نوفمبر 2022، حيث وصل بعد شهرين من ظهوره للمرة الأولى إلى 100 مليون مستخدم نشط.
وساعد روبوت الدردشة بزيادة الاستثمار في شركات الذكاء الاصطناعي، وأثار نقاشًا حادًا حول التأثير الطويل المدى للذكاء الاصطناعي.
وشددت OpenAI على أن ChatGPT يمكن أن يكون غير موثوق، ويختلق معلومات ويتطلب عناية كبيرة، خاصة في السياقات العالية المخاطر. وحذرت الشركة من أن نماذجها ليست مصممة لتوفير معلومات طبية، ولا ينبغي استخدامها لتقديم خدمات تشخيصية أو علاجية للحالات الطبية الخطيرة.