Skócia központjában, Edinburghban született szegény munkáscsaládban. A szerény anyagi körülmények miatt már általános iskolai tanulmányait félbe kellett hagynia, hogy pénzt kereshessen. Volt tejkihordó, kőművesinas, szénrakodó, koporsófényesítő, aktmodell, tengerész, focista, húszévesen pedig hazája body building-bajnoka. 1953-tól játszott színházban, 1955-től filmezett, bár kezdetben jobbára mellékszerepeket kapott.

1962-ben aztán a viszonylag ismeretlen, így alacsonyabb gázsival is megelégedő, de igen sármos Conneryt szerződtették az Ian Fleming kémregénye alapján készült első James Bond film főszerepére. Összesen hat epizódban alakította Őfelsége 007-es ügynökét, mielőtt átadta a stafétabotot Roger Moore-nak, majd mintegy egy évtized szünet után, 1983-ban ismét elvállalt egy Bond-filmet.

Világhírű lett, nagynevű rendezők irányításával, híres sztárokkal forgatott. Olyan kasszasikerek fűződtek a nevéhez, mint A domb, A híd túl messze van, A rózsa neve, A hegylakó, A szikla, a Briliáns csapda, az Indiana Jones és az utolsó kereszteslovagban pedig ő alakította a kalandor régész édesapját. Az Aki legyőzte Al Caponét című filmben nyújtott alakításáért az 1988-as Oscar-gálán a legjobb férfi mellékszereplőnek járó szobrocskát vehette át, 1996-ban pedig megkapta a Golden Globe életműdíját.

Sean Connery még a nyolcvanhoz közel is nők millióinak szívét dobogtatja meg, öt éve pedig a német férfiak őt választották meg a legjobb férfi idolnak. Profi színész, aki a média állandó érdeklődését higgadtan tűri, a szája sarkában megjelenő, rá annyira jellemző kis félmosollyal. Igazi hazafi, aki nagyon büszke arra, hogy skótnak született, de ez fordítva is igaz: szűkebb hazájában rendkívüli népszerűségnek örvend, 1991-ben 22 év után ő lett az első, akit Edinburgh városa díszpolgárnak választott. Nemrégiben elvállalta, hogy a skót parlament Edinburgh-ban épülő új épületének lifthangja lesz: ő fogja bemondani, hányadik emeletre érkezett a felvonó.

A brit lovagi címre már 1997-ban felterjesztették, de akkor kihúzták a nevét a listáról, mert nyíltan támogatta a skót függetlenségi mozgalmat. A brit kormány végül meghajolt a közvélemény nyomása alatt, így II. Erzsébet királynő 2000-ben lovaggá ütötte, azóta kijár neki a Sir megszólítás. Ráadásul a ceremóniát az edinburgh-i királyi palotában rendezték, és azon a színész hagyományos skót népviseletben, kockás szoknyában és térdharisnyában jelent meg.

Sir Sean magánélete csendes, második feleségével 1975 óta él boldogan a Bahamákon. Első házasságából született Jason nevű fia szintén a filmszakmában dolgozik. 2006 óta nem vállal filmszerepet, de megírta emlékiratait, Skótnak lenni címmel.