Karp sinh ra ở thành phố New York, Karp lớn lên ở Upper West Side của Manhattan. Cha mẹ của ông là Barbara Ackerman, một giáo viên khoa học từ San Anselmo, California, và Michael D. Karp, một nhà soạn nhạc điện ảnh và truyền hình. Ông có một người em trai tên là Kevin. Cha mẹ của ông ly dị khi ông 17 tuổi. Karp học tại trường Calhoun từ mẫu giáo đến lớp tám, nơi mẹ ông dạy khoa học. Năm 11 tuổi, ông bắt đầu học HTML và bắt đầu thiết kế trang web cho các doanh nghiệp. Karp tiếp tục theo học tại Trường Cao đẳng Khoa học Bronx trong một năm trước khi bỏ học khi ông 15 tuổi và bắt đầu học tại nhà. Vào thời điểm đó, Karp có khát vọng học đại học ở New York, hoặc đến MIT và làm các dự án học tại nhà và các dự án khác ở bên kia như một cách để gây ấn tượng với các trường đại học. Karp không bao giờ trở lại trường trung học hoặc lấy bằng cấp của mình.
11