盡管人工智能驅(qū)動(dòng)的營(yíng)銷(xiāo)技術(shù)（martech）確實(shí)強(qiáng)大，但不專(zhuān)業(yè)的培訓(xùn)、還不夠成熟的算法設(shè)計(jì)和隱藏的誤差會(huì)很快破壞一切市場(chǎng)活動(dòng)。

在誤差影響你的品牌之前，你如何識(shí)別和減輕誤差呢？

Martech中的算法偏差和偏見(jiàn)問(wèn)題
聯(lián)合利華旗下的個(gè)人護(hù)理公司多芬剛剛成為業(yè)內(nèi)第一個(gè)承諾不在廣告中使用生成人工智能的品牌。附帶的兩分鐘視頻描述了“最漂亮的女人”和“完美皮膚”等搜索詞返回人工智能生成的模型。
這段視頻從不可思議的完美無(wú)瑕的臉切換到真實(shí)的女性，突顯了不可能的美麗標(biāo)準(zhǔn)的影響。這一舉措是多芬真正美麗運(yùn)動(dòng)的一部分，這是一項(xiàng)為期20年的運(yùn)動(dòng)，專(zhuān)注于展示所有身體、皮膚和頭發(fā)類(lèi)型。
多芬可能是第一個(gè)承諾這樣做的人，但可能不是最后一個(gè)。此前，其他多個(gè)品牌因嘗試人工智能生成的內(nèi)容而受到抨擊。評(píng)論家和消費(fèi)者都聲稱(chēng)這些工具有利于造成某些刻板印象和種族歧視。
《華盛頓郵報(bào)》對(duì)生成性?xún)?nèi)容中的偏見(jiàn)的研究似乎證明了多夫的觀點(diǎn)。當(dāng)被要求創(chuàng)造一個(gè)“美麗”的女人時(shí)，主要的生成模型——包括Midjourney、Stable Diffusion和DALL-E——更傾向于瘦、淺膚色的女性。
Midjourney近90%的照片描繪了淺膚色的女性。DALL-E和Stable Diffusion的表現(xiàn)勉強(qiáng)好一些，分別只有38%和18%的人有深色皮膚。這一證據(jù)表明，martech中的潛在算法偏差是明顯的。

算法偏差如何影響營(yíng)銷(xiāo)人員
martech中的算法偏見(jiàn)會(huì)影響消費(fèi)者對(duì)公司的看法。如果它足夠醒目或一致，可能會(huì)影響品牌的收入、聲譽(yù)或轉(zhuǎn)化率：
?溝通不暢：由于88%的網(wǎng)站訪(fǎng)問(wèn)者在經(jīng)歷了糟糕的體驗(yàn)后不太可能再次訪(fǎng)問(wèn)，因此表現(xiàn)出偏見(jiàn)的聊天機(jī)器人對(duì)業(yè)務(wù)不利。
?無(wú)意義的促銷(xiāo)：客戶(hù)可能會(huì)看到基于刻板印象的無(wú)關(guān)廣告，而不是真正的瀏覽或購(gòu)買(mǎi)行為，從而影響銷(xiāo)售。
?不準(zhǔn)確的定價(jià)：人工智能驅(qū)動(dòng)的市場(chǎng)技術(shù)可能會(huì)使用歧視性的定價(jià)做法，根據(jù)傳統(tǒng)印象和偏見(jiàn)對(duì)某些群體收取不同的費(fèi)用。
?無(wú)關(guān)建議：雖然相關(guān)建議使客戶(hù)購(gòu)買(mǎi)的可能性增加了35%，但無(wú)關(guān)建議會(huì)影響收入。
?傳統(tǒng)印象細(xì)分：偏見(jiàn)或者誤差模型可能會(huì)扭曲特征的權(quán)重，根據(jù)過(guò)往經(jīng)驗(yàn)將客戶(hù)分為不準(zhǔn)確的細(xì)分。
?不可靠的預(yù)測(cè)：不準(zhǔn)確的數(shù)據(jù)集會(huì)導(dǎo)致決策不明智和經(jīng)濟(jì)損失。一項(xiàng)調(diào)查顯示，數(shù)據(jù)偏差可能導(dǎo)致高達(dá)62%的收入損失。
忽視martech中算法偏見(jiàn)和誤差會(huì)潛在影響營(yíng)銷(xiāo)人員，這可能會(huì)導(dǎo)致失去網(wǎng)站流量，激怒客戶(hù)，錯(cuò)過(guò)潛在的銷(xiāo)售機(jī)會(huì)。

識(shí)別和減輕誤差的方法
一般來(lái)說(shuō)，如果你搜索生成式人工智能，它的算法誤差是顯而易見(jiàn)的。然而，各種模型都會(huì)產(chǎn)生有誤差的輸出，而且往往很難識(shí)別。你應(yīng)該知道如何識(shí)別它，以便去減輕它。
您的首選方法應(yīng)該是在將模型的數(shù)據(jù)饋送集成到您的martech之前對(duì)其進(jìn)行審核。盡量減少訓(xùn)練中的固有的傳統(tǒng)印象、無(wú)意義的假設(shè)和毫無(wú)根據(jù)的判斷，這可以防止訓(xùn)練變得不公平或偏執(zhí)。
Your go-to系統(tǒng)是最有效的方法之一，因?yàn)樗鼘⒛銏F(tuán)隊(duì)的一名營(yíng)銷(xiāo)專(zhuān)業(yè)人員與人工智能配對(duì)。這個(gè)人會(huì)審查其輸出的數(shù)據(jù)，確保只有高質(zhì)量、相對(duì)無(wú)誤差的材料才能呈現(xiàn)給消費(fèi)者。
另一種方法是分析你所在行業(yè)的過(guò)往歷史和當(dāng)前誤差狀態(tài)。由于某些用例對(duì)特定社區(qū)的偏見(jiàn)可能性高于其他用例，因此評(píng)估更廣泛的誤差范圍可以幫助您確定其可能性。
無(wú)論你將哪種類(lèi)型的AI集成到martech中，你都應(yīng)該確保開(kāi)發(fā)一個(gè)反饋循環(huán)。由于機(jī)器學(xué)習(xí)模型基于反饋和交互進(jìn)行學(xué)習(xí)，因此隨著時(shí)間的推移，不充分地解決有誤差或者偏見(jiàn)的輸出會(huì)不斷強(qiáng)化錯(cuò)誤，從而使問(wèn)題永久化。

關(guān)于公平和包容性的考慮
偏見(jiàn)和誤差將永遠(yuǎn)存在于營(yíng)銷(xiāo)中，因?yàn)樗巧鐣?huì)規(guī)范和現(xiàn)代期望的副產(chǎn)品。在實(shí)踐中優(yōu)先考慮公平性和包容性，以盡量減少它：
?多樣化數(shù)據(jù)集：在各種文本、圖像、音頻和視頻上訓(xùn)練人工智能驅(qū)動(dòng)的martech可以幫助它學(xué)會(huì)包容。
?透明：優(yōu)先考慮透明度向您的客戶(hù)表明您重視公平，并努力成為一個(gè)包容、道德的品牌。
?不要過(guò)度個(gè)性化：過(guò)度個(gè)性化會(huì)導(dǎo)致內(nèi)容缺乏多樣性，以及用戶(hù)疲勞。在某些情況下，優(yōu)先考慮用戶(hù)體驗(yàn)而不是超個(gè)性化。
在當(dāng)今時(shí)代，優(yōu)先考慮公平和包容性將使你的品牌走得更遠(yuǎn)。傾聽(tīng)客戶(hù)對(duì)人工智能和偏見(jiàn)營(yíng)銷(xiāo)技術(shù)的擔(dān)憂(yōu)，為決策提供信息。

AI驅(qū)動(dòng)Martech的誤差底線(xiàn)
雖然沒(méi)有什么是真正沒(méi)有誤差的，但如果你定期審核模型的輸出，檢查你的martech的準(zhǔn)確性，并聽(tīng)取客戶(hù)的反饋，你就可以接近目標(biāo)。
在人工智能備受關(guān)注的時(shí)代，勤奮和保持一致性將帶來(lái)更好的業(yè)務(wù)成果。