Senior Applied Research Scientist LLM Evaluation

Description de l'entreprise

Tout a commenc sous le soleil de San Diego, en Californie, en 2004, lorsqu'un ingnieur visionnaire, Fred Luddy, a vu le potentiel de transformer notre faon de travailler. Aujourd'hui, ServiceNow se prsente comme un leader mondial du march, apportant une technologie innovante amliore par l'IA plus de 8 100 clients, dont 85% des entreprises du Fortune 500. Notre plateforme intelligente base sur le nuage connecte de manire transparente les personnes, les systmes et les processus pour permettre aux organisations de trouver des mthodes de travail plus intelligentes, plus rapides et meilleures. Mais ce n'est que le dbut de notre voyage. Joignez-vous nous dans la poursuite de notre objectif de rendre le monde meilleur pour tous.

It all started in sunny San Diego, California in 2004 when a visionary engineer, Fred Luddy, saw the potential to transform how we work. Fast forward to today - ServiceNow stands as a global market leader, bringing innovative AI-enhanced technology to over 8,100 customers, including 85% of the Fortune 500. Our intelligent cloud-based platform seamlessly connects people, systems, and processes to empower organizations to find smarter, faster, and better ways to work. But this is just the beginning of our journey. Join us as we pursue our purpose to make the world work better for everyone.

Description du poste

We are a group of researchers, applied scientists, engineers, and product managers with a dual mission. We build and evolve the AI platform, and partner with teams to build products and end-to-end AI-powered work experiences. In equal measure, we lay the foundations, research, experiment, and de-risk AI technologies that unlock new work experiences in the future.

You will play a major part in building next generation Large Language Models(LLM's) for Enterprise Language Generation that will power NOW platform with AI experiences in day to day work of our customers. We are just getting started with our early-adopter customers and we need your help in building and making available an amazing range of solutions to our 9k+ enterprise customers around the world.

Nous sommes un groupe de chercheurs, scientifiques appliqus, ingnieurs et chefs de produit avec une double mission. Nous dveloppons et faisons voluer la plateforme d'IA tout en collaborant avec les quipes pour crer des produits et des expriences de travail alimentes par l'IA de bout en bout. De manire gale, nous posons les bases, menons des recherches, exprimentons et rduisons les risques lis aux technologies d'IA afin de dbloquer de nouvelles expriences de travail l'avenir.

Vous jouerez un rle cl dans la construction de modles de langage de grande taille (LLM) de nouvelle gnration pour la gnration de langage en entreprise, qui alimenteront la plateforme NOW avec des expriences d'IA dans le travail quotidien de nos clients. Nous en sommes encore aux dbuts avec nos premiers clients pionniers et avons besoin de votre aide pour concevoir et fournir une gamme impressionnante de solutions nos plus de 9 000 clients d'entreprise dans le monde entier.

What you get to do in this role:

• Confronted with real-world challenges and datasets, you will need to use your AI/ML expertise and creativity to apply existing methods and develop new ones to solve these problems in a practical and scalable way.
• Research, propose and implement appropriate models/techniques for LLM benchmarking.
• Participate in data collection and synthetic data generation, and generate custom benchmarks to evaluate diverse LLMs capabilities.
• Collaborate daily with a team of like-minded developers, applied research scientists, product managers and quality engineers to produce quality software.
• Contribute to the implementation of tools to facilitate LLMs evaluation and perform model / error analysis.
• Develop innovative patentable ideas that ensure the competitiveness of this product within the domain of similar work being done in the industry.
• Potentially write research papers in collaboration with our Research Group, to be published to the most notorious AI Conferences.
• Work with product owners to understand detailed requirements and own your code from design, implementation, testing and delivery of high-quality & high-impact solutions to our users.

Ce que vous ferez dans ce rle :

• Face des dfis et des ensembles de donnes du monde rel, vous devrez utiliser votre expertise en IA/ML et votre crativit pour appliquer des mthodes existantes et en dvelopper de nouvelles pour rsoudre ces problmes de manire pratique et volutive.
• Rechercher, proposer et mettre en uvre des modles ou techniques appropris pour l'valuation comparative des LLM.
• Participer la collecte de donnes et la gnration de donnes synthtiques, et crer des benchmarks personnaliss pour valuer les capacits de divers LLM.
• Collaborer quotidiennement avec une quipe de dveloppeurs, chercheurs appliqus, chefs de produit et ingnieurs qualit partageant les mmes ides, pour produire des logiciels de qualit.
• Contribuer la mise en uvre d'outils facilitant l'valuation des LLM et effectuer des analyses de modles et d'erreurs.
• Dvelopper des ides innovantes brevetables pour garantir la comptitivit de ce produit dans le domaine de travaux similaires raliss dans l'industrie.
• ventuellement, rdiger des articles de recherche en collaboration avec notre groupe de recherche, publier dans les plus prestigieuses confrences sur l'IA.
• Travailler avec les responsables produits pour comprendre les exigences dtailles et tre responsable de votre code, de la conception la mise en uvre, en passant par les tests et la livraison de solutions de haute qualit et fort impact pour nos utilisateurs.

Qualifications

To be successful in this role you have:

• 4+ years of relevant experience with a Bachelor's degree; or 2 years with a Master's degree; or a PhD with no experience; or equivalent work experience.
• Solid expertise in Python.
• Solid Machine Learning / Deep Learning theoretical knowledge and hands-on experience.
• Experience with LLM benchmarking and evaluation is required; experience generating synthetic data is a plus.
• Ability to read and experiment with ideas from recent research papers.
• High level of creativity, quick problem-solving abilities, and adaptability.
• Effective communication skills to convey research findings to both technical and non-technical stakeholders, ensuring a clear understanding of the benefits and limitations of LLMs across the organization.

Pour russir dans ce rle, vous possdez :

• Plus de 4 ans d'exprience pertinente avec un diplme de licence ; ou 2 ans avec un master ; ou un doctorat sans exprience pralable ; ou une exprience professionnelle quivalente.
• Une solide expertise en Python.
• Une connaissance thorique approfondie et une exprience pratique en apprentissage automatique (Machine Learning) et apprentissage profond (Deep Learning).
• Une exprience en valuation et benchmarking de LLM est requise ; une exprience en gnration de donnes synthtiques est un plus.
• La capacit de lire et d'exprimenter des ides issues des articles de recherche rcents.
• Un haut niveau de crativit, une capacit rapide rsoudre des problmes et une grande adaptabilit.
• Des comptences en communication efficaces pour transmettre les rsultats de recherche des parties prenantes techniques et non techniques, en assurant une comprhension claire des avantages et des limites des LLM au sein de l'organisation.

Not sure if you meet every qualification? We still encourage you to apply! We value inclusivity, welcoming candidates from diverse backgrounds, including non-traditional paths. Unique experiences enrich our team, and the willingness to dream big makes you an exceptional candidate!

Informations complmentaires

Work Personas

Nous adoptons une approche base sur la flexibilit et la confiance vis--vis de notre monde du travail distribu. Les personas de travail (flexibles, distance ou requis au bureau) sont des catgories qui sont attribues aux employs de ServiceNow en fonction de la nature de leur travail. Cliquez ici pour en savoir plus.

Equal Opportunity Employer

ServiceNow est un employeur qui souscrit au principe de l'galit d'accs l'emploi. Tous les candidats qualifis recevront une considration pour l'emploi sans gard la race, la couleur, la croyance, la religion, le sexe, l'orientation sexuelle, l'origine nationale ou la nationalit, l'ascendance, l'ge, le handicap, l'identit ou l'expression de genre, l'tat matrimonial, le statut d'ancien combattant ou toute autre catgorie protge par la loi. De plus, tous les candidats qualifis ayant des antcdents d'arrestation ou de condamnation seront pris en considration pour un emploi conformment aux exigences lgales.

Accommodations

Nous mettons tout en uvre offrir une exprience accessible et inclusive pour tous les candidats. Si vous avez besoin d'une mesure d'adaptation raisonnable pour complter une partie du processus de candidature ou si vous n'tes pas en mesure d'utiliser cette candidature en ligne et que vous avez besoin d'une autre mthode pour postuler, veuillez communiquer avec [redacted] pour obtenir de l'aide.

Export Control Regulations

Pour les postes ncessitant l'accs une technologie contrle assujettie aux rglements sur les contrles l'exportation, y compris les U.S. Export Administration Regulations (EAR), ServiceNow peut tre tenu d'obtenir l'approbation des autorits gouvernementales en matire de contrle des exportations pour certaines personnes. Tout emploi est subordonn l'obtention par ServiceNow d'une licence d'exportation ou d'une autre approbation qui pourrait tre requise par les autorits de contrle des exportations comptentes.

Extrait de Fortune. 2024 Fortune Media IP Limited. Tous droits rservs. Utilis sous licence.

Work Personas

We approach our distributed world of work with flexibility and trust. Work personas (flexible, remote, or required in office) are categories that are assigned to ServiceNow employees depending on the nature of their work. Learn more here.

Equal Opportunity Employer

ServiceNow is an equal opportunity employer. All qualified applicants will receive consideration for employment without regard to race, color, creed, religion, sex, sexual orientation, national origin or nationality, ancestry, age, disability, gender identity or expression, marital status, veteran status, or any other category protected by law. In addition, all qualified applicants with arrest or conviction records will be considered for employment in accordance with legal requirements.

Accommodations

We strive to create an accessible and inclusive experience for all candidates. If you require a reasonable accommodation to complete any part of the application process, or are unable to use this online application and need an alternative method to apply, please contact [redacted] for assistance.

Export Control Regulations

For positions requiring access to controlled technology subject to export control regulations, including the U.S. Export Administration Regulations (EAR), ServiceNow may be required to obtain export control approval from government authorities for certain individuals. All employment is contingent upon ServiceNow obtaining any export license or other approval that may be required by relevant export control authorities.

From Fortune. 2024 Fortune Media IP Limited. All rights reserved. Used under license.