볼프는 그 후 7년간 한스 리히터,리하르트 쉬트라우스등 여러 유명 지휘자들을 초대하더니 1895년 헝가리 출신의'조용한 지휘자' 아르투르 니키쉬를 상임 지휘자로 선정햇다. 1922년 니키쉬가 사망한 뒤 지휘자 푸르트벵글러는 니키쉬의 뒤를 이어 낭만주의 작품들에 주력했다.
1945년 세르기우 첼리비다케는 단절되어던 외국 음악인들과 활발하게 교류하며 현대작품들을 많이 연주하여 찬사를 받았고, 1955년 헤르베르트 폰 카라얀이 상임지휘자로 선정되었다.세계적 명성과 베를린 필하모니커라는 애칭과 함께 35년 가까이 베를린 필하모닉을 이끈 '황제 지휘자' 카라얀이 1989년 세상을 떠나자 지휘봉은 이탈리아 출신의 클라우디오 아바도로 넘어갔다. 

아바도는 정통적인 고전 낭만 작품들과 함께 20세기 작품을 더 많이 연주하였고, 처음으로 오페라도 콘서트에 포함시켰다. 12년을 이끈 아바도에 이어 2002년 지휘봉을 잡은 영국 출신의 사이먼 래틀 경이 120년의 역사와 존통을 가진 베를린 필하모닉과 어떤 음악을 들려줄지 세계의 모든 음악팬들이 궁금하게 기다리고 있다.