C'est le chef de l'équipe du NCIS. Ancien marine, il a notamment participé à la mission Tempête du désert en qualité de sniper (c'est d'ailleurs un spécialiste en reconnaissance qui sait se déplacer précisément et sans aucun bruit dans de nombreux environnements, qualité utilisée parfois pour taquiner Abby ou pour arrêter un suspect).
Ancien sergent des marines, le leader charismatique de l'équipe est un enquêteur et interrogateur hors pair. Sûr de lui, c'est un fin stratège qui n'hésite pas à jouer avec les règles, à séduire, à bluffer ou même à subtiliser le corps de la victime au nez et à la barbe des services secrets (épisode pilote Air Force One) pour mettre la main sur le coupable. Il s'amuse beaucoup à donner des leçons d'enquêteur à ses propres agents ou à des agents des services annexes (comme dans Réaction en chaîne à l'agent Fuller).
Malgré son caractère autoritaire et direct, il se montre assez protecteur envers son équipe, surtout après la mort de Kate. C'est un expert dans plusieurs domaines : interrogatoires, enquêtes de terrain, résolutions d'homicides... À ces qualités s'ajoutent une impatience certaine et une défiance à l'égard des nouvelles technologies, bien qu'une bonne partie de son travail repose sur leur utilisation. Il a cependant tissé des liens d'amitié avec plusieurs personnes du service, principalement avec ses plus anciens collègues tels Ducky ou Abby.
La "marque de fabrique" de Gibbs, outre les règles d'or, est la claque derrière la tête lorsqu'il est déçu des performances d'un ou des membres de l'équipe. Il frappe surtout les agents masculins et principalement DiNozzo, qui reproduira ce geste sur McGee à maintes reprises.
Du point de vue des membres de l'équipe, Gibbs est un chef d'équipe et de terrain hors pair, qu'il faut savoir prendre avec des pincettes et dont certaines réactions peuvent être inattendues. Certains de ses comportements sont typiquement issus du fait qu'il était un marine, il utilisera d'ailleurs ses connaissances sur les marines à de nombreuses reprises notamment dans l'étude comportemental d'un marine. Il sait aussi parler la langue des signes avec Abby, et se sert de cette aptitude pour communiquer avec elle lorsqu'il (ou elle) ne souhaite pas que les personnes autour comprennent ce qu'ils se disent.
Il quitte le NCIS (provisoirement), à la fin de la troisième saison. Après avoir subi le choc d'une explosion lors d'une enquête où il recherche un terroriste prêt à faire exploser un navire, il entre dans un coma de quelques jours, et se réveille avec une amnésie, le ramenant 15 ans en arrière, époque à laquelle sa femme et sa fille trouvèrent la mort. L'équipe tente de remettre la main sur ses anciens coéquipiers ou supérieurs, et retrouve son ancien mentor (on comprend ainsi d'où vient sa façon d'agir avec DiNozzo). A la fin du double épisode, il décide de se couper du monde comme l'a fait son mentor, et le rejoint sur une plage du Mexique.
Dans la quatrième saison, au cours du premier épisode, Ziva fait appel à Gibbs pour lui venir en aide. L'agent spécial à la retraite réintègre temporairement le NCIS au cours du deuxième épisode afin d'aider l'agent Fornell et finira par réintégrer son poste de Chef d'équipe à la fin de ce même épisode.