Ông làm việc tại Bell Labs ở Murray Hill, New Jersey từ năm 1959 đến khi nghỉ hưu năm 1986, nơi ông dẫn đầu nghiên cứu về các thiết bị laser và bán dẫn mới. Trong nhiệm kỳ của mình, Smith đã được trao hàng chục bằng sáng chế và cuối cùng đứng đầu bộ phận thiết bị VLSI. Năm 1969, Smith và Willard Boyle đã phát minh ra thiết bị điện tích nối (CCD), mà họ đã cùng nhau nhận được Huân chương Stuart Ballantine của Viện Franklin vào năm 1973, Giải thưởng tưởng niệm IEEE N. Morris Liebmann năm 1974, Giải thưởng tưởng niệm Charles Draper Stark năm 2006 và Giải Nobel Vật lý năm 2009.
Hải quân Hoa Kỳ