1842년에 작곡가이자 지휘자인 오토 니콜라이가 빈 궁정 오페라극장 소속 관현악단을 연주회용 악단으로도 활용하자는 여러 유력 인사들의 아이디어에 따라 레두텐잘에서 관현악 연주회를 가진 것을 창단 시기로 잡고 있다(3월 28일). 오페라 관현악단을 모체로 해서 생겨난 악단이기 때문에 독자적인 연주회 횟수는 적었으나, 오스트리아 최초의 연주회 전문 악단으로 화제를 모았다.

니콜라이가 1848년에 사임한 뒤에는 잠시 객원 지휘에 의존하다가 1854년에 칼 에케르트가 제 2대 상임 지휘자로 부임했으나, 재임 기간은 3년에 그쳤다. 1860년대 초반에는 부진한 활동으로 인해 악단 안팎의 비판 여론이 거세졌고, 결국 단원들 스스로가 악단 운영에 책임을 지는 자주 운영제를 채택하고 투표에 의해 지휘자를 초빙하는 등 독특한 운영 체제를 확립했다.

1860년에 연주회장을 케른트너토어 극장으로 옮겼고, 1869년에는 빈 음악협회 건물이 준공되자 이듬해 대강당을 주요 연주회장으로 사용하기 시작했다. 1875년에는 한스 리히터를 상임 지휘자로 초빙해 브루크너와 브람스의 교향곡들을 비롯한 여러 작품들을 초연하기 시작했다. 1898년에는 말러가 후임으로 선출되었고, 2년 뒤인 1900년에는 파리 만국박람회 기념 음악제에 초빙되어 최초의 국외 공연을 가졌다.

1903년에 상임 지휘자 제도를 없애고 객원 지휘자 제도를 잠시 도입했으나, 1908년에 펠릭스 바인가르트너를 '정기 지휘자(Abonnementdirigent)' 라는 직위로 초빙해 사실상의 상임 지휘자 제도 부활을 꾀했다. 완전한 상임 지휘자 제도의 소멸은 1933년에 이루어졌으며, 마지막 정기 지휘자는 클레멘스 크라우스였다. 1920년대부터는 잘츠부르크 축제의 상주 관현악단으로도 참가하기 시작해 지금까지 계속 출연하고 있다.

1938년에 오스트리아가 독일에 병합되어 '오스트마르크 주' 로 격하되자, 나치스 고위층에서 악단의 강제 해산을 시도하기도 했다. 빌헬름 푸르트벵글러를 비롯한 음악계 중진들의 노력으로 해산은 면했으나, 유태인 혹은 유태계 단원들이 강제 해직되어 망명하거나 강제 수용소에서 목숨을 잃기도 했다. 해직 단원들의 자리는 아리아인 음악가로 메꾸어졌으며, 나치 당원이자 친위대원이었던 빌헬름 예르거가 단장을 맡아 활동했다.
 
 

1941년에는 악단의 명물이 된 빈 신년음악회가 개최되기 시작했다.

종전 직후 수 개월 동안은 반나치즘과 악단 재건 등의 문제로 연주회를 열지 못하다가 요제프 크립스의 지휘로 전후 첫 연주회가 개최되었으며, 이후 오스트리아와 독일뿐 아니라 세계 각지의 지휘자들을 적극적으로 초빙해 레퍼토리의 확대를 꾀했다. 데카와 도이체 그라모폰 등의 음반사에서 적극적으로 녹음 활동도 했으며, 이러한 음반 출반과 방송 중계 등으로 인해 세계적인 명성을 얻기 시작했다.

해외 공연도 활발히 진행하고 있으며, 특히 미국과 일본에서 '빈 필 주간' 이라는 이름으로 정기적인 순회 공연을 개최하고 있다. 최근에는 전 세계 관현악단 사상 유례없는 연주 여행용 전용 여객기를 오스트리아 정부로부터 공여받아 화제가 되었다.
1854년에 니콜라이의 뒤를 이어 상임 지휘자로서 활동한 인물은?
칼 에케르트