درس هایی از شکست چت بات ایر کانادا

ایر کانادا سعی کرد ربات چت خود را زیر اتوبوس هوش مصنوعی بیندازد.

این کار نکرد.

دادگاهی در کانادا اخیراً حکم داده است که ایر کانادا باید پس از دریافت اطلاعات نادرست از چت ربات شرکت هواپیمایی، به مشتری که یک بلیت کامل خریده است، غرامت بدهد.

ایر کانادا استدلال کرده بود که ربات چت آن پاسخ را ساخته است، بنابراین نباید مسئولیتی داشته باشد. همانطور که پپر بروکس از فیلم Dodgeball ممکن است بگوید، “این یک استراتژی جسورانه است، کاتن. بیایید ببینیم آیا برای آنها نتیجه می دهد یا خیر.

اما این اشتباه ربات چت برای شما چه معنایی دارد زیرا برندهای شما این ابزارهای مکالمه را به وب سایت خود اضافه می کنند؟ وقتی مشتریان از ابزارهایی مانند Gemini Google و ChatGPT OpenAI برای تحقیق در مورد برند شما استفاده می کنند، برای آینده جستجو و تأثیر آن بر شما چه معنایی دارد؟

هوش مصنوعی ایر کانادا را مختل می کند

به نظر می رسد هوش مصنوعی این روزها تنها موضوع گفتگو باشد. مشتریان از آژانس هایشان انتظار دارند تا زمانی که آن استفاده را با تخفیف زیادی در خدمات خود همراهی می کنند، از آن استفاده کنند. آنها می گویند: “خیلی آسان است.” “تو باید خیلی خوشحال باشی.”

هیئت مدیره شرکت های نوپا به تیم های مدیریتی خود در مورد آن فشار می آورند. آنها می پرسند: «در استراتژی هوش مصنوعی کجا هستیم؟ “آن چنان آسان. همه دارند این کار را می کنند.» حتی هنرمندان هالیوودی با نگاهی به جدیدترین پیشرفت‌های هوش مصنوعی و گفتن، «هوم… آیا ما واقعاً می‌خواهیم بیشتر روی انسان‌ها سرمایه‌گذاری کنیم، شرط‌های خود را جبران می‌کنند؟

بیایید همه یک نفس بکشیم انسان ها به جایی نمی رسند. بگذارید خیلی واضح بگویم، «هوش مصنوعی یک استراتژی نیست. این یک نوآوری است که به دنبال استراتژی است.» تصمیم هفته گذشته ایر کانادا ممکن است اولین تمایز در دنیای واقعی باشد.

داستان با مردی شروع می‌شود که از ربات چت ایر کانادا می‌پرسد که آیا می‌تواند تا زمانی که مدارک لازم را ارائه کرده باشد، برای کرایه عزاداری عطف به ماسبق بازپرداخت دریافت کند. چت بات او را تشویق کرد که پرواز خود را برای مراسم خاکسپاری مادربزرگش رزرو کند و سپس درخواست بازپرداخت مابه التفاوت قیمت کامل و نمایشگاه سوگواری را ظرف 90 روز بدهد. مسافر همان کاری را انجام داد که چت بات پیشنهاد کرد.

ایر کانادا با استناد به سیاست خود که به صراحت اعلام می کند پس از رزرو پرواز، بازپرداختی را برای سفر ارائه نخواهد کرد، از بازپرداخت وجه خودداری کرد.

وقتی مسافر شکایت کرد، امتناع ایر کانادا از پرداخت جالب تر شد. این سازمان استدلال کرد که نباید مسئول باشد زیرا چت بات یک “شخصیت حقوقی مجزا” است و بنابراین، ایر کانادا نباید مسئول اقدامات خود باشد.

دفاعی مشابه در دوران کودکی به یاد دارم: «من مسئول نیستم. دوستانم مرا مجبور کردند این کار را انجام دهم.» که مامانم جواب داد: “خب، اگه بهت بگن از روی پل بپری؟”

بخش مورد علاقه من در این پرونده زمانی بود که یکی از اعضای دادگاه آنچه را که مادرم می‌گفت، گفت: «ایر کانادا توضیح نمی‌دهد که چرا معتقد است…. چرا صفحه وب آن با عنوان «سفر سوگ» ذاتاً قابل اعتمادتر از ربات چت آن بود.

اشتباه بزرگ در تفکر انسان در مورد هوش مصنوعی

این چیز جالبی است که شما با این چالش در حال حاضر هوش مصنوعی روبرو می شوید. شرکت‌ها هوش مصنوعی را به‌عنوان یک استراتژی برای استقرار به جای یک نوآوری برای استراتژی‌ای که باید به کار گرفته شود، اشتباه می‌گیرند. هوش مصنوعی پاسخی برای استراتژی محتوای شما نیست. هوش مصنوعی به سادگی راهی برای کمک به یک استراتژی موجود بهتر است.

هوش مصنوعی مولد فقط به اندازه محتوا – داده ها و آموزش – خوب است. هوش مصنوعی مولد یک تشخیص فوق العاده از الگوها و درک انتخاب کلمه بعدی احتمالی است. اما هیچ تفکر انتقادی انجام نمی دهد. نمی تواند تشخیص دهد که چه چیزی واقعی است و چه چیزی تخیلی.

برای لحظه ای به وب سایت خود به عنوان یک مدل یادگیری فکر کنید. چقدر خوب می تواند به سؤالات مربوط به وضعیت فعلی شرکت شما پاسخ دهد؟ به تمام اسناد کمکی، راهنماها و محتوای آموزشی و آموزشی فکر کنید. اگر همه آن – و فقط آن – را در یک مغز مصنوعی قرار دهید، تنها در این صورت است که می توانید به پاسخ ها اعتماد کنید.

ربات چت شما احتمالاً نتایج عالی و چند پاسخ بد ارائه می دهد. پرونده ایر کانادا شامل یک چالش کوچک بود. اما زمانی را تصور کنید که این یک اشتباه کوچک نیست. و در مورد تأثیر محتوای ناخواسته چطور؟ تصور کنید که ابزار هوش مصنوعی آن پوشه سرگردان را در مخزن کمک به مشتریان شما – پوشه ای با تمام پاسخ های گیج کننده و پاسخ های احمقانه انتخاب کند؟ یا اگر بایگانی را پیدا کند که همه چیز اشتباه در محصول یا ایمنی شما را نشان می دهد، چه؟ ممکن است هوش مصنوعی نداند که شما نمی خواهید از آن محتوا استفاده کنید.

ChatGPT، Gemini، و دیگران نیز چالش های برند را ارائه می دهند

راه حل های هوش مصنوعی مولد در دسترس عموم ممکن است بزرگترین چالش ها را ایجاد کنند.

من پتانسیل مشکل ساز را آزمایش کردم. من از ChatGPT خواستم تا قیمت دو تا از شناخته شده ترین سیستم های CRM را به من بدهد. (به شما اجازه می دهم که کدام دو را حدس بزنید.) از آن خواستم که قیمت و ویژگی های دو بسته مشابه را با هم مقایسه کند و بگوید کدام یک می تواند مناسب تر باشد.

اول، به من گفت که نمی‌تواند قیمت‌گذاری را برای هر یک از آنها ارائه کند، اما صفحه قیمت‌گذاری هر کدام را در پاورقی گنجانده است. من استناد را فشار دادم و از آن خواستم که دو بسته نامگذاری شده را با هم مقایسه کند. برای یکی از آنها، قیمت 30٪ بسیار بالا را به من داد، بدون توجه به اینکه اکنون تخفیف داده شده است. و هنوز نمی تواند قیمت دیگری را ارائه دهد، و گفت که شرکت قیمت را فاش نکرده است، اما دوباره صفحه قیمت گذاری را که در آن هزینه به وضوح نشان داده شده است، پاورقی ذکر کرده است.

در آزمایش دیگری، از ChatGPT پرسیدم: «راه حل مدیریت دارایی دیجیتال (DAM) از (نام شرکت فناوری) چه عالی است؟» من می دانم که این شرکت سیستم DAM ارائه نمی دهد، اما ChatGPT این کار را نکرد.

این پاسخ با پاسخ توضیح داد که راه حل DAM این شرکت یک منبع شگفت انگیز و منفرد حقیقت برای دارایی های دیجیتال و یک سیستم عالی است. به من نگفت که پاسخ را از محتوای صفحه وب شرکت که توانایی آن را برای ادغام با سیستم DAM ارائه‌دهنده شخص ثالث برجسته می‌کند، ترجمه کرده است.

حالا این تفاوت ها اندک است. من آن را دریافت می کنم. همچنین باید واضح بگویم که برای برخی از سؤالات سخت تر خود در آزمون کوتاه خود پاسخ های خوبی دریافت کردم. اما این چیزی است که خیلی موذیانه است. اگر کاربران انتظار پاسخ هایی داشتند که همیشه کمی اشتباه بود، صحت آنها را بررسی می کردند. اما زمانی که پاسخ ها درست و چشمگیر به نظر می رسند، حتی اگر کاملا اشتباه یا ناخواسته دقیق باشند، کاربران به کل سیستم اعتماد دارند.

این درسی است که از ایر کانادا و چالش های بعدی در راه است.

هوش مصنوعی یک ابزار است نه یک استراتژی

به یاد داشته باشید، هوش مصنوعی استراتژی محتوای شما نیست. هنوز باید آن را ممیزی کنید. درست همانطور که برای بیش از 20 سال انجام داده اید، باید مطمئن شوید که تمام ویژگی های دیجیتال شما منعکس کننده ارزش های فعلی، یکپارچگی، دقت و اعتمادی است که می خواهید القا کنید.

هوش مصنوعی این کار را برای شما انجام نمی دهد. نمی تواند ارزش آن چیزها را بداند مگر اینکه شما ارزش آن چیزها را به او بدهید. هوش مصنوعی را راهی برای ابداع استراتژی محتوای انسان محور خود در نظر بگیرید. می‌تواند داستان انسانی شما را به روش‌های مختلف و احتمالاً سریع‌تر برای همه سهامداران شما بیان کند.

اما فقط شما می توانید بفهمید که آیا این داستان شماست. شما باید آن را ایجاد کنید، برای آن ارزش قائل شوید و آن را مدیریت کنید، و سپس شاید هوش مصنوعی بتواند به شما کمک کند تا آن را به خوبی بیان کنید.

مطالب مرتبط دستچین شده:

تصویر روی جلد توسط جوزف کالینوفسکی/موسسه بازاریابی محتوا