Ngày 7 tháng 7 năm 2010, Koscielny đến với Emirates và được trao chiếc áo số 6 của câu lạc bộ. Ngay mùa giải đó, anh thi đấu đã rất thành công và được người hâm mộ Arsenal bình chọn là bản hợp đồng thành công nhất của Arsène Wenger ở mùa giải 2010–2011.
Koscielny đã được triệu tập vào đội tuyển Pháp vào ngày 4 tháng 2 năm 2011. Trước khi được gọi vào tuyển Pháp, Koscielny cũng đủ điều kiện để thi đấu cho Ba Lan do gốc gác của gia đình anh.
Ba năm thi đấu cho Arsenal trải qua bao thăng trầm cùng câu lạc bộ. Có người đến kẻ đi, nhưng anh vẫn luôn nhận được sự tin tưởng của Wenger. Mùa giải đầu tiên anh đá cặp với Sébastien Squillaci, bước sang mùa giải 2011-2012 và 2012-2013 anh cùng với Thomas Vermaelen tạo thành cặp trung vệ ăn ý nhất của Arsenal.
Sang mùa giải 2013-2014, có lẽ do áp lực lớn từ chiếc băng đội trưởng, Vermaelen thi đấu không còn được ổn định và mất suất đá chính vào tay Per Mertesacker. Cho dù đổi người đá cặp nhưng Koscielny vẫn là người thi đấu ổn định nhất Arsenal.
Đá ở vị trí trung vệ anh đã phải chấp nhận là dù thi đấu tốt thì cũng ít được nhìn nhận, nhưng chỉ cần 1 sai lầm đủ khiến anh bị đá bay khỏi đội hình chính. Tuy nhiên không có những con người cống hiến không biết mệt mỏi như Koscielny, Francis Coquelin, Per Mertesacker thì sẽ không có một Arsenal thăng hoa như mùa giải năm nay.
Không phải ngẫu nhiên mà anh được fan đặt cho biệt danh “Bosscielny”, biệt danh này không chỉ chứng tỏ anh là “ông chủ hàng phòng ngự” của "Pháo thủ", mà còn một trong nhưng cầu thủ được yêu mến nhất tại sân Emirates
Những con số đã nói lên điều đó, trong trận chung kết Fa Cup với Aston Villa vừa qua. Koscielny đã có 4 lần đánh chặn thành công (nhiều nhất trên sân), 5 lần tham gia hóa giải cơ hội của đội bạn (nhiều nhất trên sân), 3 lần tắc bóng thành công, 2 pha cản phá những cú sút của đội bạn. Những con số rất ấn tượng!
Một vị trí trong top 3 NHA, cùng với danh hiệu vô địch FA CUP là phần thưởng xứng đáng cho anh và đồng đội.
Mùa giải mới sắp tới, việc đội trưởng Mikel Arteta và Tomas Rosic ký chắc chắn sẽ ra đi, cùng với đó đội phó Mertesacker đã bước sang tuổi 32, chiếc băng đội trưởng nếu được trao cho Koscielny là điều hoàn toàn xứng đáng với những cống hiến của anh cho đội chủ sân Emirates.