Sinoptička evanđelja izvještavaju nas da ga je Isus pozvao za apostola s bratom Ivanom dok su s ocem Zebedejem lovili ribe na Genezaretskom jezeru. Jakov je s Petrom i bratom Ivanom spadao u krug povlaštenih Isusovih učenika, koji su nazočili nekim od najvažnijih događaja Njegova života, primjerice Isusovom preobraženju na brdu Tabor. Zbog žestoke naravi, njega i brata mu Ivana nazivali su i “Boanerges”, što znači “sinovi groma”. Isus ih je tako jednom prilikom prekorio kada su htjeli zazvati oganj na neki samarijanski grad koji nije htio poslušati Isusovu poruku. Isus ih je ukorio i rekao im: “Ne znate, čijeg ste duha. Sin čovječji nije došao da uništi duše, nego da ih spasi”.

Drugom zgodom došla je njegova majka Saloma i molila Isusa da njezina dva sina sjednu u njegovu Kraljevstvu jedan s desne, a jedan s lijeve strane uza nj.  I ona se nadala, s mnogim drugim Židovima, da će Isus osnovati veliko židovsko kraljevstvo. No Isus ukori njihovu sebičnost riječima: “Vi ne znate što tražite. Možete li piti kalež muke i smrti”. Rekoše da mogu. Isus na to reče: “Gorki kalež ćete piti, ali sjesti s desne meni i s lijeve strane, to pripada onima, kojima je pripravio moj Otac nebeski”. Odmah na to dodaje divnu poruku učenicima: “Koji hoće među vama biti velik, neka bude vaš sluga, a koji hoće među vama biti prvi neka bude kao dijete. Kao što sin čovječji nije došao da njemu služe, nego da On služi i život svoj dadne u otkup za mnoge”.

Prema legendi, Jakov je po Isusovu uzašašću propovijedao evanđelje diljem Izraela. Kasnije je, po istoj legendi, otišao u današnju Španjolsku, gdje je propovijedao daljnjih četrdeset godina. Potom se vratio u Jeruzalem gdje je, prvi od apostola, podnio mučeničku smrt odsijecanjem glave za vrijeme Heroda Agripe. O smrti svetog Jakova Zebedejeva saznajemo iz Djela apostolskih (12, 1-2): „A u ono vrijeme podiže Herod kralj ruke, da muči neke od Crkve, I pogubi Jakova, brata Ivanova, mačem.“ To se zbilo 44. godine u Jeruzalemu, a time je sveti Jakov stariji postao prvi apostol koji je umro mučeničkom smrću. Tako se ispunilo Isusovo proročanstvo da će piti kalež muke s Njim. Zaslužio je sjesti uz Isusa u nebeskom Kraljevstvu.

Jakov je prvi od apostola koji je završio svoj život mučeničkom smrću i primio krunu mučeničke slave. Predaja kaže da je krvnik, koji je pratio Jakova na stratište i trebao ga ubiti, bio potresen neustrašivim držanjem Jakova, te ga je prije njegove smrti molio za oproštenje i ubrzo nakon toga odrekao se svoga zanata i dao se krstiti. Nakon što su Arapi razorili Jeruzalem zemni ostaci apostola Jakova su u 7. st. preneseni u Španjolsku. Na mjestu gdje je bio sahranjen sagrađena je crkva i grad Santiago de Compostela (Santiago = sveti Jakov) koja je u srednjem vijeku postala najveće kršćansko hodočasničko središte poslije Rima i Jeruzalema.

Sveti Jakov zaštitnik je Španjolske, a atribut mu je školjka jakopska kapica. Osim Španjolske zaštitnik je Gvatemale, Nikaragve, pokrajine Galicije te brojnih zanimanja: farmaceuta, veterinara, ratara, kožara, voćara, krznara, uzgajivača konja, izrađivača šešira te svih radnika. Obično se prikazuje kao putnik sa štapom u ruci, nerijetko i s mačem, što podsjeća na njegovu smrt. Po njemu je i školjka Jakobova kapica dobila naziv (Jakovljeva, Jakopska kapica), pa se nerijetko prikazuje i s njom. Svetog Jakova se zaziva kod reumatskih bolesti i artritisa, zaštitnik je hodočasnika, putnika, vojnika, konjanika, jahača, veterinara, ratara itd., a njemu su također posvećene mnoge crkve i kapele diljem svijeta, pa tako i kod nas. U ikonografiji ga se obično prikazuje kao putnika sa štapom u ruci, a ponekad s mačem, zbog njegove mučeničke smrti.