De 1853 a 1860 Billroth fue asistente en la clínica quirúrgica de Bernhard von Langenbeck en la Charité de Berlín. Allí también fue aprendiz de Carl Langenbuch. En 1860, Billroth aceptó una oferta de la Universidad de Zúrich para ocupar la cátedra de cirugía clínica, convirtiéndose en director del hospital y la clínica quirúrgica de Zúrich. Los comienzos de su carrera en Suiza fueron poco prometedores: durante su primer semestre de docencia, sólo tuvo diez alumnos, y él mismo decía que los ingresos que recibía de su consulta privada eran insuficientes para pagar su taza de café matutina. Sin embargo, su reputación creció rápidamente; Billroth tenía una personalidad contagiosa, que atraía a sus filas tanto a estudiantes como a aprendices de cirugía. Sus alumnos le adoraban y era un eficaz profesor de pregrado y postgrado. Los estudiantes acudían en masa a sus clases y, con la colaboración de sus enérgicos colegas, consiguió elevar la Facultad de Medicina de Zúrich a una posición destacada entre las escuelas de habla alemana en tan sólo unos años.
Mientras estaba en Zúrich, Billroth publicó su libro de texto clásico Die allgemeine chirurgische Pathologie und Therapie (Patología y terapia quirúrgica general) (1863). Al mismo tiempo, introdujo el concepto de auditorías, publicando todos los resultados, buenos y malos, lo que automáticamente dio lugar a un debate honesto sobre la morbilidad, la mortalidad y las técnicas, con las consiguientes mejoras en la selección de pacientes.
En 1867 fue nombrado profesor de cirugía en la Universidad de Viena, en sucesión de Franz Schuh; allí, ejerció la cirugía como jefe de la Segunda Clínica Quirúrgica del Allgemeine Krankenhaus (Hospital General de Viena). Aunque sentó las bases de su fama en Zúrich, fue en Viena, un teatro más grande y conspicuo, donde se estableció como la potencia que era en el mundo quirúrgico. Un discurso que pronunció en 1875, en el que protestaba por la afluencia de estudiantes de medicina judíos, se ha contado como uno de los primeros acontecimientos en el desarrollo del antisemitismo político vienés.
Durante la guerra franco-prusiana, Billroth realizó un excelente trabajo en el hospital militar de Mannheim y Weissenburg, tratando una gran variedad de horribles heridas en el campo de batalla con cirugías agresivas y ambiciosas; plasmó su experiencia de la cirugía de guerra en sus Cartas quirúrgicas de Mannheim y Weissenburg. Quedó tan impresionado por los horrores de la guerra que después fue un ardiente defensor de la paz. El 3 de diciembre de 1891 pronunció un discurso sobre el cuidado de los heridos en la guerra que causó una profunda sensación y llevó a que las cámaras legislativas austriacas votaran grandes sumas de dinero para la provisión de medios adecuados de socorro para los heridos.
No se limitó sólo a la cirugía, y llevó a cabo una amplia investigación sobre una dolencia que afectaba a muchos pacientes de cirugía en ese momento: la fiebre de las heridas. Su tratado sobre la fiebre de las heridas, Untersuchungen über die Vegetationsformen von Coccobacteria septica (1874; «Investigaciones sobre las formas vegetales de Coccobacteria septica») concluyó que la causa era bacteriana; Billroth no tardó en utilizar técnicas antisépticas en su práctica quirúrgica, y el número de pacientes quirúrgicos afectados por la fiebre de las heridas disminuyó considerablemente. Al reducirse la amenaza de infecciones quirúrgicas mortales gracias a su trabajo y al de otros, Billroth pasó a centrar su atención en la cirugía y en el campo pionero de la alteración o extirpación de órganos que antes se consideraban inaccesibles.
Primero en adoptar la «bata blanca» (como se muestra en el cuadro de Seligmann de c.1890 de Seligmann), Billroth fue directamente responsable de varios hitos de la cirugía; en 1872, fue el primero en realizar una esofagectomía, extirpando una sección del esófago y uniendo las partes restantes. En 1873, realizó la primera laringectomía, extirpando completamente una laringe cancerosa. Fue el primer cirujano en extirpar un cáncer de recto y en 1876 había realizado 33 operaciones de este tipo. En 1881, Billroth había conseguido que la cirugía intestinal pareciera casi un lugar común. Pero su logro más famoso es, sin duda, la primera gastrectomía exitosa para el cáncer gástrico. El 29 de enero de 1881, después de muchos intentos infructuosos, Billroth realizó la primera resección con éxito de un carcinoma antral en Therese Heller, que vivió casi 4 meses y murió de metástasis en el hígado. Logró esta operación cerrando el lado de la curvatura mayor del estómago y anatomizando la curvatura menor hacia el duodeno, en una operación que hasta hoy se conoce como Billroth I.
La actividad literaria de Billroth fue muy amplia, y el número total de libros y trabajos publicados de los que fue autor asciende a unos ciento cuarenta. Colaboró con Franz von Pitha en un Libro de texto de cirugía general y especial (1882). A éste, Billroth contribuyó con la sección de Escrofulosis y Tuberculosis, Lesiones y Enfermedades de la Mama, Instrumentos y Operaciones, Quemaduras, Congelaciones, etc.
Billroth transmitió su inquieto espíritu intelectual a numerosos y distinguidos estudiantes, creando la «Escuela Billroth» de seguidores. Ningún aspecto de su profesión parecía escapar a su intenso escrutinio, ya fuera la investigación, la enseñanza, la administración o la enfermería. No sólo tenía algo valioso que decir sobre cada uno de ellos, sino que a menudo se encargaba de que sus ideas se convirtieran en una realidad concreta. En todas las esferas en las que trató de influir, se guió por la creencia en la unidad de la ciencia y el arte, y por la confianza en su propia capacidad para efectuar el cambio.
Billroth desempeñó un papel decisivo en el establecimiento de la primera escuela moderna de pensamiento en cirugía. Tenía ideas radicales sobre la formación quirúrgica, abogando por un aprendizaje quirúrgico prolongado al finalizar los estudios de medicina, que consistía en un trabajo preliminar en hospitales, seguido de la realización de operaciones en cadáveres y animales de experimentación. A esto le seguiría una ayudantía de dos o tres años en un departamento quirúrgico con estudios de la literatura quirúrgica y la adquisición de habilidades prácticas avanzadas. Entre sus discípulos se encontraban luminarias como Alexander von Winiwarter, Jan Mikulicz-Radecki y John B. Murphy. El programa pionero de residencia quirúrgica de William Halsted estuvo muy influenciado por los métodos de educación quirúrgica del propio Billroth.