Enquanto serviu no exército, tornou-se um atirador desportivo. O capitão convenceu Fleming a seguir uma carreira de investigação em vez de cirurgia, para que pudesse permanecer na escola. Fleming foi levado sob a asa de Sir Almroth Wright, um pioneiro em imunologia e pesquisa de vacinas. Fleming permaneceu neste grupo de investigação durante toda a sua carreira.
Como capitão do Corpo Médico do Exército na Primeira Guerra Mundial, testemunhou a morte de muitos dos seus colegas soldados como resultado de uma infecção descontrolada. Na altura, foram utilizados anti-sépticos que muitas vezes causavam mais danos do que benefícios. Fleming escreveu um artigo discutindo as bactérias anaeróbias presentes nas feridas profundas, que não foram destruídas pelos antissépticos. A sua pesquisa não foi aceite inicialmente, mas continuou em.
Em 1922, Fleming descobriu a lisozima, uma enzima com fracas propriedades antibacterianas que inibia o crescimento bacteriano. Também encontrou lisozima nas unhas, cabelo, saliva, pele, e lágrimas. Na sua pesquisa, Fleming descobriu que a lisozima era eficaz contra apenas um pequeno número de bactérias não prejudiciais.
Em 1928, começou a pesquisar bactérias estafilocócicas comuns. Uma placa de Petri descoberta, perto de uma janela aberta, ficou contaminada com bolor. Fleming percebeu que as bactérias perto do mofo estavam a morrer. Isolou o bolor e identificou-o como o género Penicillium, que considerou eficaz contra todos os agentes patogénicos Gram-positivos. Os agentes patogénicos Gram-positivos causam doenças, tais como difteria, gonorreia, meningite, pneumonia, e escarlatina. Fleming descobriu que não era o bolor em si, mas um “sumo” que tinha produzido que tinha destruído as bactérias. Chamou a este “sumo de bolor” penicilina.
Later, disse Fleming: “Quando acordei logo após o amanhecer de 28 de Setembro de 1928, não planeei certamente revolucionar toda a medicina ao descobrir o primeiro antibiótico, ou assassino de bactérias, do mundo. Mas suponho que foi exactamente isso que eu fiz”
Inicialmente, a comunidade médica não estava tão entusiasmada com a descoberta da penicilina de Fleming. Ele também teve dificuldade em isolar grandes quantidades de “sumo de bolor”. Em 1940, quando Fleming estava prestes a reformar-se, 2 colegas cientistas, Ernst Chain e Howard Florey, começaram a interessar-se pela penicilina. Logo, conseguiram produzir em massa penicilina para uso durante a Segunda Guerra Mundial.
Fleming recebeu muitos prémios, incluindo 30 graus honoríficos, e sobretudo o Prémio Nobel em Fisiologia/Medicina em 1945. Foi também nomeado uma das pessoas mais importantes do século XX pela revista Time.
Em termos da sua vida pessoal, Fleming era conhecido como modesto, paciente, sossegado, tímido, e sem emoções. Evitava as atenções e por vezes até se calava dolorosamente em torno de amigos próximos e até da sua esposa, Sarah Marion McElroy, uma enfermeira. Fleming e a sua esposa tiveram um filho, Robert, que se tornou médico de clínica geral. Quando ela faleceu após 34 anos de casamento, Fleming passou por um período muito difícil. Perdeu-se no seu trabalho, passando a maior parte do seu tempo à porta fechada no laboratório. Em 1953, Fleming casou com a Dra. Amalia Koutsouri-Vourekas numa igreja grega em Londres.
Morreu em casa, de trombose coronária, em 1955, depois de sofrer de perturbações estomacais durante semanas.
Dizia-se que Fleming “morreu como desejava: silenciosamente, sem um declínio gradual da capacidade física ou mental, e mesmo sem incomodar o seu médico”.