Sau khi Hoa Kỳ tham gia Thế chiến II, Ballentine phục vụ như sĩ quan chỉ huy thứ hai của tàu sân bay hộ tống USS "Long Island" từ ngày 26 tháng 12 năm 1941 đến ngày 18 tháng 4 năm 1942. Ông được thăng cấp đại úy vào ngày 30 tháng 6 năm 1942. Ballentine phục vụ như là giám đốc nhân viên cho chỉ huy Task Group 34.2 Chuẩn Đô đốc Ernest D. McWhorter trên tàu trong cuộc xâm lược của Đồng minh ở Bắc Phi thuộc Pháp
vào tháng 11 năm 1942.