Jefno Azef urodził się w 1869 roku w Łyskowie - miasteczku należącym do ówczesnej guberni grodzieńskiej, w rodzinie bardzo biednego krawca - Fiszla Azefa. Kiedy Jewno liczył pięć lat, rodzinie Azefów udało się zdobyć zezwolenie na przekroczenie wyznaczonej przez rząd carski strefy osiedlania się dla Żydów, dzięki czemu Azefowie przenieśli się na stałe do Rostowa nad Donem. Tu też, w 1890 roku, Jewno Azef ukończył gimnazjum. Na początku 1892 roku, wziąwszy na sprzedaż od jakiegoś mariampolskiego kupca większą ilość masła, wyjeżdża za granicę. Po zainkasowaniu za sprzedany towar 800 rubli, nie rozliczając się z łatwowiernym kupcem, pojechał w głąb Niemiec, by zapisać się na politechnikę w Karlsruhe. Już wówczas więc młody Jewno wykazywał wielką miłość do pieniędzy i brak skrupułów w wyborze sposobów osiągania zysków.
Suma 800 rubli przedstawiała wówczas dużą wartość nabywczą, ale nie mogła starczyć na długo, a w Karlsruhe perspektyw zarobkowania prawie nie było, toteż Azef po pewnym czasie zaczął biedować. W Karlsruhe zaczął się obracać w kołach rosyjskiej młodzieży studiującej w Niemczech i został członkiem rosyjskiego socjalistyczno-demokratycznego kółka. Bardzo szybko wpadł na pomysł, że mógłby zarobkować, sprzedając rosyjskiej policji sekrety rewolucjonistów.
4 kwietnia 1893 roku napisał swój pierwszy hst do Departamentu Pohcji, przytaczając znane mu fakty na temat działalności rosyjskiej młodzieży rewolucyjnej za granicą i podając swój adres, na który pohcja mogłaby pisać do niego, gdyby podane przezeń informacje okazały się dla niej interesujące. Przyjmowanie nowego agenta na służbę w Departamencie Pohcji było wówczas bardzo zawiłe - hst Azefa przedłożono wicedyrektorowi Departamentu, od niego poszedł do kierującego właściwym wydziałem, naradzano się, zbierano informacje, wreszcie 16 maja odpowiedziano, żądając podania bhższych danych o sobie (w pierwszym hście ostrożny Azef nie podał swego prawdziwego nazwiska) oraz zaznaczając, że pohcja jest gotowa płacić za informacje. Azef zaraz odpowiedział, żądając za swe usługi 50 rubli miesięcznie. Nawiasem mówiąc, równocześnie ze swoją ofertą wysłaną do Departamentu Pohcji, na wszelki wypadek (żeby się przypadkiem jego dobra wola nie zmarnowała) wysłał Azef analogiczny hst do Zarządu Żandarmerii w Rostowie, który szybko go zidentyfikował, zebrał o nim informacje i wystawił charakterystykę, w której stwierdzono: ,Jewno Azef jest człowiekiem niegłupim, nader szczwanym, mającym szerokie stosunki wśród zamieszkałej za granicą młodzieży żydowskiej, a stąd może przynosić istotną korzyść; należy spodziewać się, że przez chciwość i wobec swojej biedy będzie cenił mocno swoje obowiązki”.
Te wielkie zalety moralne Azefa przesądziły sprawę decyzji Departamentu Pohcji. Uznano, że Azef może być źródłem cennych informacji, a jego cechy osobiste predysponują go do zaszczytnej służby w szeregach tajnej agentury. Decyzja zapadła już 10 czerwca 1893 roku i w tymże miesiącu nadesłano Azefowi pierwszą pensję.
Po rozpoczęciu pracy dla pohcji nastąpiła przemiana ideologiczna Azefa. O ile na początku swego pobytu za granicą wypowiadał się w sposób bardzo umiarkowany, występował przeciwko skrajnym metodom walki i łączył się raczej z socjaldemokratami, o tyle zostawszy informatorem pohcji szybko przesunął się „na lewo”. Już w latach 1894 - 1895 zdobył sobie opinię konsekwentnego zwolennika terrorystycznych metod walki. Podkreślał, że nie jest „teoretykiem”, nie lubił przemawiać na zebraniach, ale chętnie brał się do załatwiania różnych spraw technicznych, umiejętnie rozszerzając koło swoich znajomych.
Wprawdzie już w Rostowie nie był uważany za człowieka, który może być dobrym i pewnym przyjacielem; potrafił zaobserwować i zapamiętać ludzkie słabostki, lubił z nich drwić, był mściwy i złośliwy. Wielu ludzi uważało go za człowieka zdolnego do wszystkiego dla osiągnięcia zysku. W rosyjskich kołach studenckich zagranicą potrafił sobie jednak pozyskać wielu ludzi, zająć trwałą pozycję i korzystać z powszechnego szacunku. Był właścicielem dobrze dobranej biblioteki nielegalnych wydawnictw, z której pozwalał korzystać młodym studentom za umiarkowanym wynagrodzeniem.