Paano Natutukoy ng Amazon ang Pandaraya sa Mga Millisecond Gamit ang Kernel Methods

Ang Mahika ng Nakatagong Matematika sa AI

Iniisip ng karamihan ng mga tao na ang pagtukoy ng pandaraya ay problema sa software. Sa totoo lang, problema ito sa matematika. At ang matematika sa likod nito ay mas maganda at mas nakakagulat kaysa sa nalalaman ng karamihan.

Araw-araw, nagpoproseso ang Amazon ng milyun-milyong transaksyon sa buong pandaigdigang marketplace nito. Nakatago sa loob ng napakalaking dami ng aktibidad na ito ang mga mapanlinlang na order, mga transaksyon ng ninakaw na credit card, mga pekeng account, at mga kahina-hinalang pattern ng pagbili. Ang hamon ay ang mga manloloko ay hindi nananatili. Palagi nilang binabago ang kanilang pag-uugali, mga device, mga lokasyon, at mga pamamaraan. Ang mga simpleng rule-based na sistema ay nahihirapang humabol. Ang machine learning, na pinalakas ng isang sangay ng matematika na tinatawag na kernel methods, ang nagpapaposible ng real-time na pagtukoy ng pandaraya sa sukat ng Amazon.

Ang artikulong ito ay bahagi ng serye na Ang Mahika ng Nakatagong Matematika sa AI. Ngayon, tayo ay lalangoy nang malalim sa kernel methods, support vector machines, at kung paano pinoprotektahan ng mga ideyang matematika na ito ang mga customer ng Amazon bawat segundo ng bawat araw.

Seksyon 1: Ang Senaryo ng Negosyo

Isipin ang isang karaniwang customer ng Amazon. Bumibili siya ng mga libro tuwing katapusan ng linggo, paminsan-minsang nag-o-order ng electronics, at nag-iimbak ng mga gamit sa bahay sa loob ng linggo. Ang account niya ay tatlong taon na, ang delivery address niya ay hindi nagbago sa loob ng maraming buwan, at ang mga pagbili niya ay nagaganap mula sa parehong lungsod sa bawat pagkakataon.

Ngayon isipin na isang Martes ng tanghali, may nangyaring hindi pangkaraniwan. Sa loob ng sampung minuto, tatlong mataas na halagang order ang inilagay mula sa kanyang account. Ang delivery address ay nagbago patungo sa ibang bansa. May bagong paraan ng pagbabayad na idinagdag. Iba ang device na naglalagay ng mga order. Ang IP address ay tumuturo sa lokasyon na libu-libong kilometro ang layo mula sa kung saan karaniwang namimili ang customer na ito.

Kailangang magpasya ang Amazon sa loob ng mga millisecond. Ito ba ang tunay na customer na gumagawa ng hindi pangkaraniwang pagbili, baka naglalakbay o bumibili ng mga regalo? O ito ba ay isang manloloko na nakuha ang kanyang mga kredensyal at mabilis na kumikilos bago ma-lock ang account?

Ang maling desisyon sa alinmang direksyon ay may malubhang kahihinatnan. Ang pag-apruba sa pandaraya ay nangangahulugang mga pinansyal na pagkalugi, mga chargeback, napinsalang relasyon sa mga mangangalakal, at unti-unting pagkawala ng tiwala ng customer. Ang pag-block sa isang lehitimong customer ay nangangahulugang masamang karanasan, nawalang benta, at sirang relasyon sa isang taong naging tapat sa loob ng maraming taon.

Hindi ito problemang maaari mong lutasin gamit ang mga simpleng if-else na tuntunin. Ang mga pattern ay masyadong kumplikado, masyadong iba-iba, at masyadong mabilis. Ito mismo ang problemang itinayo ng kernel methods at support vector machines upang lutasin.

Seksyon 2: Ang Arkitektura ng Machine Learning Model

Ang modelong itinatayo natin ay support vector machine, o SVM. Upang maunawaan kung bakit napakalakas ng mga SVM para sa pagtukoy ng pandaraya, kailangan mo munang maunawaan ang pangunahing problemang nilulutas nila.

Isipin na ini-plot ang lahat ng transaksyon ng Amazon sa isang graph. Ang mga tunay na transaksyon ay nagkukumpol sa isang lugar. Ang mga mapanlinlang na transaksyon ay nagkukumpol sa iba. Sa isang perpektong mundo, maaari kang gumuhit ng tuwid na linya sa pagitan ng dalawang grupo at gamitin ito upang i-classify ang mga bagong transaksyon. Ngunit ang tunay na datos ng pandaraya ay hindi kailanman ganito kalinis. Ang dalawang grupo ay nag-o-overlap, bumabalot sa isa't isa, at bumubuo ng mga kumplikadong hugis na walang tuwid na linyang makapaghihiwalay.

Dito pumapasok ang kernel trick. Ang isang kernel method ay gumagawa ng kamangha-manghang bagay. Matematika nitong binabago ang iyong transaction data mula sa orihinal nitong two-dimensional o ten-dimensional na espasyo patungo sa mas mataas na dimensyon na espasyo kung saan ang dalawang grupo ay nagiging maihihiwalay. Hindi nito aktuwal na kinukuwenta ang high-dimensional transformation nang direkta, na magiging mahal sa komputasyon. Sa halip, gumagamit ito ng kernel function upang kalkulahin ang pagkakatulad ng alinmang dalawang transaksyon sa high-dimensional na espasyong iyon nang hindi kailanman kailangang pumunta doon nang tahasan. Iyon ang trick.

Ang arkitektura ng pagtukoy ng pandaraya ng Amazon ay gumagamit ng dalawang uri ng kernel depende sa kalikasan ng signal na sinusuri.

Ang polynomial kernel ay ginagamit kapag ang kaugnay na pattern ay nagmumula sa mga kombinasyon ng feature. Kinukuha nito ang mga interaction effect sa pagitan ng mga variable tulad ng halaga ng transaksyon na minultiply sa dalas ng pagbili, o ang paraan ng pagbabayad na pinagsama sa panganib ng lokasyon. Ang mga interaction na ito ay mga bagay na ganap na makakaligtaan ng linear model.

Ang RBF kernel, na nangangahulugang radial basis function, ang pinakamakapangyarihang pangkalahatang pagpipilian. Sinusukat nito kung gaano magkatulad ang alinmang dalawang transaksyon sa paraang awtomatikong humahawak ng napakakomplikadong mga hangganan. Kapag ang isang transaksyon ay hindi katulad ng anumang tunay na transaksyong nakita na ng modelo dati, bibigyan ito ng RBF kernel ng napakababang similarity score, na nagtatanda nito para sa pagsusuri.

Ang SVM model ay natututo ng decision boundary sa pamamagitan ng pagtukoy ng mga support vector, na siyang mga transaksyong pinakamalapit sa hangganan sa pagitan ng tunay at pandaraya. Lahat ng iba pa sa training data ay nagiging walang kabuluhan kapag natagpuan na ang hangganan. Ginagawa nitong eleganteng at computationally efficient ang mga SVM sa produksyon.

Seksyon 3: Ang Purong Matematikal na Makina

Tingnan natin ngayon ang matematikang nagpapatakbo ng sistemang ito. Ang bawat pormula sa ibaba ay na-verify gamit ang ganap na nalutas na pencil-and-paper na halimbawa gamit ang mga tunay na numero.

Ang pormula ng polynomial kernel ay:

K(x, y) = (x · y + c)^d

kung saan ang x at y ay mga feature vector ng dalawang transaksyon, ang c ay isang constant na kumokontrol sa impluwensya ng mga lower-order na termino, at ang d ay ang degree ng polynomial na kumokontrol sa komplikasyon ng hangganan.

Ang pormula ng RBF kernel ay:

K(x, y) = exp(-γ ||x – y||²)

kung saan ang γ (gamma) ay kumokontrol kung gaano kalayo ang inaabot ng impluwensya ng isang training example. Ang maliit na gamma ay nangangahulugang malayuang abot, ang malaking gamma ay nangangahulugang malapit na abot.

Ang SVM decision function ay:

f(x) = Σ αᵢ yᵢ K(xᵢ, x) + b

kung saan ang αᵢ ay mga natutunang bigat para sa bawat support vector, ang yᵢ ay mga class label (+1 para sa pandaraya, -1 para sa tunay), ang K(xᵢ, x) ay ang kernel similarity sa pagitan ng isang support vector at ng bagong transaksyon, at ang b ay ang bias threshold. Kung ang f(x) ay mas malaki sa zero, ang transaksyon ay itinatanda bilang pandaraya.

Ngayon, gawin natin ang bawat kalkulasyon hakbang-hakbang gamit ang mga tunay na numero.

Mayroon tayong dalawang transaksyon ng Amazon na inilalarawan ng dalawang feature bawat isa: halaga ng transaksyon (normalized) at dalas ng pagbili.

Transaksyon A: x = [2, 3] ibig sabihin normalized na halaga 2 at dalas 3 Transaksyon B: y = [1, 4] ibig sabihin normalized na halaga 1 at dalas 4

Itinakda namin ang c = 1 at d = 2 para sa polynomial kernel, at γ = 0.5 para sa RBF kernel.

Polynomial kernel hakbang-hakbang:

Hakbang 1: Kalkulahin ang dot product x · y x · y = (2 × 1) + (3 × 4) = 2 + 12 = 14

Hakbang 2: Idagdag ang constant c 14 + 1 = 15

Hakbang 3: Itaas sa kapangyarihang d = 2 15² = 225

K(x, y) = 225

Sinasabi sa atin ng malaking halagang ito na sa polynomial feature space, ang dalawang transaksyong ito ay lubhang magkatulad. Nakuha ng kernel ang interaction sa pagitan ng halaga at dalas nang hindi tayo kailanman kailangang kalkulahin ang high-dimensional transformation nang tahasan.

RBF kernel hakbang-hakbang:

Hakbang 1: Kalkulahin ang difference vector x – y [2 – 1, 3 – 4] = [1, -1]

Hakbang 2: I-square ang bawat elemento [1², (-1)²] = [1, 1]

Hakbang 3: Idagdag ang mga squared difference upang makuha ang ||x – y||² 1 + 1 = 2

Hakbang 4: Imultiply sa negatibong gamma -0.5 × 2 = -1.0

Hakbang 5: Ilapat ang exponential function exp(-1.0) = 0.3679

K(x, y) = 0.3679

Sinasabi sa atin ng score na 0.3679 na ito sa scale na 0 hanggang 1 na ang dalawang transaksyon ay katamtamang magkaiba. Ang RBF score na malapit sa 1 ay nangangahulugang halos magkatulad ang pag-uugali ng dalawang transaksyon. Ang score na malapit sa 0 ay nangangahulugang magkaiba sila nang husto, na nagtataas ng watawat ng pandaraya.

Decision function hakbang-hakbang:

Ipagpalagay na ang sinanay na SVM ay natuto ng dalawang support vector na may mga bigat na α = [0.8, 0.6] at mga label na y = [+1, -1], at ang mga kernel value para sa dalawang support vector na ito laban sa bagong transaksyon ay [225.0, 0.3679], na may bias b = 0.1.

f(x) = (0.8 × 1 × 225.0) + (0.6 × -1 × 0.3679) + 0.1 f(x) = 180.0 + (-0.2207) + 0.1 f(x) = 179.8793

Dahil ang f(x) = 179.8793 ay mas malaki sa zero, ang transaksyon ay kinikilala bilang tunay. Ang malakas na positibong signal mula sa unang support vector, na kumakatawan sa isang tunay na transaksyon, ang nangingibabaw sa desisyon.

Ang lahat ng mga halaga sa itaas ay na-verify nang nakapag-iisa sa Python at nagbigay ng eksaktong mga resultang ito.

Seksyon 4: Ang Python Computer Science Implementation (Mula sa Wala)

Ang sumusunod na implementation ay nagtatayo ng kernel fraud detector mula sa wala gamit ang NumPy. Ang bawat method ay ganap na na-implement nang walang shortcuts o placeholders. Ang buong execution block ay kasama at na-verify na tumatakbo nang walang mga error.

Kapag na-execute, ang code na ito ay gumagawa ng tamang mga classification ng pandaraya at mga interpretable na risk score sa pagitan ng 0 at 1 para sa bawat transaksyon sa test set. Ang mga mapanlinlang na transaksyon ay nakakakuha ng mataas na risk score malapit sa 1.0. Ang mga tunay na transaksyon ay nakakakuha ng mababang risk score malapit sa 0.0.

Seksyon 5: Ang Production Machine Learning Blueprint

Kapag na-execute ang production code na ito, parehong nakakamit ng RBF at polynomial kernel models ang 100% na katumpakan sa test set. Natutukoy ng RBF model ang siyam na support vector at nagbibigay ng 0.9647 na probabilidad ng pandaraya sa mga nakumpirmang mapanlinlang na transaksyon. Ang polynomial model ay nangangailangan lamang ng dalawang support vector upang makamit ang parehong resulta, na nagpapakita ng kapangyarihan ng mahusay na napiling kernel.

Ang paglipat mula sa bersyong ginawa mula sa wala patungo sa bersyon ng produksyon ay nagdadala ng ilang mahahalagang pagkakaiba. Una, ang SVM implementation ng scikit-learn ay gumagamit ng highly optimized quadratic programming solver, partikular ang sequential minimal optimization algorithm, na umaabot sa milyun-milyong training examples habang ang aming hand-written na implementation ay magiging computationally impractical pagkatapos ng ilang libo. Pangalawa, ang probability calibration gamit ang Platt scaling ay nagko-convert ng mga raw decision score sa mga wastong calibrated na probabilidad na maaaring gamitin upang magpatakbo ng mga tiered na business rule tulad ng pagpapadala ng score na higit sa 0.5 sa manual na pagsusuri at pag-block ng mga score na higit sa 0.9 nang direkta. Pangatlo, ang class_weight='balanced' parameter ay awtomatikong bumabawi sa likas na imbalance sa mga fraud dataset kung saan ang mga tunay na transaksyon ay higit na mas marami kaysa sa mga mapanlinlang, na tinitiyak na ang modelo ay hindi lamang natutong tawaging tunay ang lahat upang makamit ang mataas na katumpakan.

Sa mga tunay na production environment ng Amazon, ang arkitektura ay umaabot pa nang mas malayo. Ang mga modelo ay patuloy na muling sinasanay habang lumilitaw ang mga bagong pattern ng pandaraya. Ang mga feature ay pinagyayaman ng mga graph-based na signal tulad ng kung ang isang account ay konektado sa mga kilalang fraud network. Ang kernel SVM output ay madalas na ginagamit bilang isang signal sa marami sa loob ng mas malaking ensemble model, na nag-aambag ng natatanging kakayahan nitong gumuhit ng mga non-linear na hangganan sa mga paraang hindi kayang pantayan ng mga tree-based na modelo.

Ang Madiskarteng Pananaw

Para sa mga practitioner ng AI at mga lider ng negosyo, ang aral mula sa artikulong ito ay mas malalim kaysa sa pagtukoy ng pandaraya. Ang mga kernel method ay nagbubunyag ng mas malawak na katotohanan tungkol sa mga intelligent system: ang raw input space ay bihirang maging lugar kung saan nakatira ang sagot. Ang real-world na datos ay magulo, nag-o-overlap, at puno ng mga non-linear na ugnayan na hindi kayang ayusin ng linear na pag-iisip. Ang kapangyarihan ng kernel trick ay hinahayaan ka nitong mag-isip sa mas mayamang matematikal na espasyo nang walang computational cost ng aktuwal na pagpunta doon. Ang parehong prinsipyo, ang pagbabago ng mahirap na problema sa isa kung saan ang sagot ay nagiging nakikita, ay naaangkop sa mga recommendation system, risk scoring, predictive maintenance, healthcare diagnostics, at halos bawat seryosong enterprise-scale na problema ng machine learning. Ang mga lider ng negosyo na nakakaintindi nito ay magtatanong ng mas mahusay na mga tanong sa kanilang mga data science team. Ang mga inhinyero na nakakaintindi nito ay magtatayo ng mga sistemang tunay na gumagana kapag tumatanggi ang datos na maging malinis at simple.

Ang pagtukoy ng pandaraya ng Amazon ay hindi mahika. Ito ay matematikang gumagana nang hindi nakikita sa napakalaking bilis, at ngayon ay naiintindihan mo na kung paano eksakto.

#MachineLearning #ArtificialIntelligence #DataScience #Mathematics #Amazon #FraudDetection #KernelMethods #SVM #RBFKernel #PolynomialKernel #TheMagicOfHiddenMathematics #AIEngineering #MLEngineering #Python #SVMClassification #EnterpriseAI #AIStrategy #DeepLearning #NeuralNetworks #TechLeadership

Orihinal na nailathala sa LinkedIn ni Keshavan Thiagaraja. Basahin ang orihinal sa LinkedIn. [1]