Algajast teadlaseni; Kaks aastat sügavat õppimist Fast.ai-ga

Naastes isapuhkuse käest tänavu märtsis, on mul hea meel jagada seda, et olen liitunud NVidiaga täiskohaga rakendusuuringute alal, töötades tabelina (mõnikord nimetatakse seda ka struktureeritud) andmete ja rapids.ai ristmikul. See teekond poleks olnud võimalik ilma hämmastava kursuse, raamatukogu ja kogukonnata, mis on kiire.ai.

Nagu Sylvain Gugger, veel üks kursuse vilistlane, kes töötab praegu fastai teadurina ja kelle ajaveebi postitus sellest inspireeris, on fastai muutnud minu elu ja olen sügavalt tänulik Jeremyle ja Rachelile nende nägemuse kohta paremini juurdepääsetavast sügavusest hariduse õppimine kõigile. Tema postituse vaimus tahtsin jagada oma teekonda ja asju, mis mind on teel aidanud, lootuses, et nad aitavad ja inspireerivad teisi, kes seda teed alustavad.

Rännak

Erinevalt paljudest fastai tudengitest olen pärit masinõppe taustast. Veel üks keskendus inimese arvutiga suhtlemisele ja eelnevale sügavale õppimisele, nii et töö, mille ma lõputöö jooksul tegin, sai fastai õpilane tundides rakendada, kuid matemaatika / programmeerimise alus ja oskus ettekandeid lugeda aitasid kindlasti. Sellegipoolest viitan sellele ajale harva ja nõustun täielikult Jeremy hinnanguga, mille kohaselt pole doktorikraadi omandamiseks sügavat õpet vaja.

Pärast ülikooli lõpetamist töötasin online-kohtingute saidil palju kalu, kirjutades sobitusalgoritme, pettuste tuvastamise süsteeme ja juhtides lõpuks uurimisrühma. Lahkusin aasta pärast selle müüki grupile Match, ja sattusin ristteelt, uurides andmetöötluse võimalusi ja pole tegelikult huvitatud andmeteaduse juurde naasmisest.

Fastai kursus v1 tuli välja samal kevadel ja kui ma selle läbi töötasin ja foorumis inimestega tuttavaks sain, haakusin üha enam ja enam. Ülalt alla suunatud rakendusarendus on õppimisviis, mis sobib mulle hästi ja armusin kiiresti Jeremy õpetamisstiili. Kui sain teada, et seal on 2. osa, kandideerisin kohe ja hüppasin sõna otseses mõttes rõõmu, kui sain teada, et olen sisse saanud.

Kuna mul on soovitussüsteemide taust, huvitas mind see kursuse komponent väga ja asusin selle valdkonnaga üha enam tegelema. Selle käigus lasin ma Realtor.com-is osaleda soovituste ja otsingu paremusjärjestuse projektide kallal ning just seal hakkasin tõesti nägema, mida mulle õpetatakse. Soovitussüsteemide süvaõppest sai minu kirg ja kõigepealt tulen pähe, lugesin iga teemakohase paberi ja tarbin kõike, mida ma Youtube'ist leida võisin. Räägin pikemalt harjumustest, mille olen kujundanud viimase kahe aasta jooksul, mis viis uurijarollini, järgmises osas, kuid see aeg oli minu jaoks väga kujundav oskuste ja teadmiste baasi arendamisel, mis viis minu praeguse roll NVidias.

Olen kaasa võtnud kõik paastupakkumised. Olen praegu oma kolmanda iteratsiooniga ja igas klassis õpin midagi uut. Kui te pole vanu kursusi jälginud, soovitan tungivalt tagasi minna ja sama asi kehtib masinõppe kursuse kohta, mis õpetas mulle seda, mida ma tean juhuslikest metsamudelitest. Fastai pakutav hariduse kvaliteet on nii kõrge. Struktureerisin oma meeskonna selle ümber Realtorisse, kasutades tunde projektide jaoks punktina, mis osutus äärmiselt edukaks.

Sammud teel

Kuigi minu teekond on minu jaoks ainulaadne, tahan pakkuda abi neile, kes soovivad saavutada sama unistuse - saada sügavuti õppiv teadlane või parem praktik.

Nõuandeid selle kohta, kuidas kiiret foorumit tõhusalt täita, ning soovitan teil neid otsida ja neid jälgida, kui te seda veel ei tee. Klassist kaugemale jõudmine nõuab täiendavaid jõupingutusi, kuid minu arvates on see siis, kui võlujõud tegelikult aset leiab. Mitmed harjumused on mind tõesti aidanud saada paremaks uurijaks ja paremaks arendajaks. Need on lihtsad, kuid tõhusad. Nende kaudu on lihtne tuulega liikuda, näiteks saate sülearvutite vahekaarti vahetada, kuid kui saate need rakendada, siis garanteerin, et neil on mõju.

  1. Olge paberitega rahul. Kontrollige Arxivit igal nädalal, lugege igal õhtul paberit. Ma kasutasin kunagi arxiv-sanity, kuid kahjuks tundub, et seda enam ei säilitata. Otsin endiselt lahendust, nii et kui teil on midagi, andke mulle sellest teada. Ma soovitaksin valida konkreetne uurimisvaldkond, kus saate lugeda enamikku välja tulevatest paberitest. Leidke teema, mis teile huvi pakub, nagu soovitus või stiiliülekanne, ja jätkake sellel väikesel väljal. Regulaarselt paberite lugemise harjumuseks saamine on nüüd minu superjõud. See on üks, mis sul võib ka harjumuspärase moodustamise korral olla.
  2. Teisendage fastai-videod ainult heliks, et neid saaks liikvel olles taskuhäälingusaadetena kuulata. Minu jaoks pole otstarbekas videote vaatamiseks kaks või kolm korda vaadata, eriti nüüd, kui mul on kaks noort poissi, kuid materjali tihedus nõuab seda. Vaadake seda üks kord ja kuulake ikka ja jälle oma pendelrongis, jalgsi või ükskõik kus. Olen kuulanud kümneid kordi ja valin endiselt uusi kontseptsioone ja ideid.
  3. Rakendage otsast lõpuni midagi, mis on erinev kui sülearvutid pakuvad. See oli minu jaoks võti fastai potentsiaali avamiseks. Taastasin denoisingi autokooderi lahendusest porto seguro ohutu juhi võistlusele. See osutus paljude tabelitabelite süvaõppe uuringute lähtepunktiks ja viis minu praeguse rolli juurde. Valige midagi erinevat sellest, mida enamik inimesi rakendab, ja rakendage seda hästi.
  4. Jääge foorumites aktiivseks ja osalege kogukonnas. See on minu meelest üks kursuse kõige tähelepanuta jäetud aspekte, mis pakub tervele hulgale inimestele niisama põnevat sügavat õppimist kui teie ise. Minu jaoks on see olnud suur ideede, teadmiste ja huvi katalüsaator.
  5. Silmaringi laiendamiseks otsige teisi kursusi. Soovitan tungivalt Stanfordi NLP-kursust CS224n, mida õpetas Chris Manning, CS231n õpetas Andrej Karpathy, Gene Kogani kunstialase rakenduse süvaõppe kursust Neuraalne esteetika ja PyData, kus regulaarselt toimuvad suured sügava õppimise vestlused.

Fastai on mulle nii palju andnud ja teeb seda ka edaspidi ning mul on hea meel liikuda olukorda, kus saan lõpuks midagi tagasi anda. Kui ütleksite mulle oma reisi alguses, kui nägin youtube'is esimest videot, et tasuta veebipõhine MOOC viiks mind uurimistöö juurde ühes maailma tipptehnoloogiaettevõttes, pole ma kindel, et mul oleks uskusin sind, aga siin ma olen. Ma ei kahtle, et selle põhjuseks on peaaegu täielikult kiire.ai.